Een SoftBank Robotica Nao humanoïde robot gebruikt in de studyImage: Vollmer et al., Sci. Robot. 3, eaat7111 2018
Nieuw onderzoek toont aan dat kinderen vaker dan volwassenen toe te geven aan groepsdruk van robots, een verontrustende bevinding gezien de snel toenemende snelheid waarmee kinderen in contact komen met sociaal intelligente machines.
Een experiment onder leiding van Anna-Lisa Vollmer Universiteit van Bielefeld in Duitsland is een krachtige herinnering dat moderne technologieën kan een diepgaand effect op kinderen, het beïnvloeden van de manier waarop ze denken en meningen uiten—zelfs wanneer zij weten, of op zijn minst verdacht, hun mening verkeerd zijn.
De punt van Vollmer ‘ s experiment was om het meten van de sociale impact uitgeoefend door robots op zowel kinderen als volwassenen, in het bijzonder de manier waarop de peer pressure van robots kunnen een bijdrage leveren aan maatschappelijke overeenstemming. De resultaten vandaag gepubliceerd in Science Robotica, blijkt dat volwassenen grotendeels immuun voor de robot beïnvloeden, maar kan hetzelfde niet gezegd worden van de kinderen, die zich aan de adviezen van een robot peer group, zelfs wanneer deze meningen waren duidelijk verkeerd. Dit onderzoek betekent dat we de noodzaak om een oog te houden op de maatschappelijke effecten die worden uitgeoefend door robots en AI op jonge kinderen een steeds belangrijker onderwerp gezien de frequentie waarmee kinderen in contact komen met sociaal machines.
Vollmer het team gebruikt een beproefde techniek die ontwikkeld is door de psycholoog Solomon Asch, nu bekend als het Asch-paradigma. Deze techniek meet hoe mensen voldoen aan de anderen tijdens een eenvoudige visuele oordeel taak. In dit geval, Vollmer vroeg haar deelnemers om met een reeks van verticale lijnen op een computer scherm. De test is niet moeilijk, het is gemakkelijk te onderscheiden van die twee lijnen met elkaar overeenkomen in grootte. Het punt is niet om te testen van de gezichtsscherpte, maar de beoordeling van het vermogen van de deelnemers om te weerstaan aan overeenstemming wanneer hun collega ‘ s geven het verkeerde antwoord.
Voor de nieuwe studie, Vollmer getest, zowel voor volwassenen en kinderen. Een totaal van 60 volwassenen werden verdeeld in drie groepen: alleen de groep (controle), een groep met drie andere menselijke collega ‘ s, en een groep die bestaat uit drie robots (de SoftBank Robotica Nao humanoïde robot werd gebruikt voor het experiment). In twee van elke drie tests, alle drie leden van beide referentiegroepen (de mens en robot-collega ‘ s) met eenparigheid van stemmen gaf het verkeerde antwoord. Consistent met andere studies, volwassenen vaak conformeren aan de mening van hun menselijke collega ‘ s, zelfs wanneer de antwoorden waren scherpe, duidelijk verkeerd. Maar de volwassenen waren niet overtuigd door de peer druk die wordt uitgeoefend door de sociale robots, verzet tegen de onjuiste antwoorden gespoten door de machines. Interessant is dat dit resultaat is in tegenspraak met de “computers als sociale actoren” (CASA) hypothese, die stelt dat, in de woorden van de auteurs van de studie, “mensen van nature en onbewust de behandeling van computers en andere vormen van media op een manier die fundamenteel sociale, het toeschrijven van menselijke eigenschappen aan technologie.”
Hetzelfde experiment werd gedaan met 43 kinderen in de leeftijd tussen zeven en negen. De test is identiek zijn aan het gegeven aan de volwassenen, maar er was geen mens peer pressure groep; het is al zeer goed ingeburgerd dat kinderen meer gevoelig zijn voor sociale beïnvloeding. In dit geval wilden de onderzoekers richten zich uitsluitend op de invloed van de robot collega ‘ s. Resultaten toonden aan dat, in tegenstelling tot volwassenen, de kinderen waren sterk beïnvloed” door de aanwezigheid van de robot collega ‘ s, het verstrekken van identieke onjuiste antwoorden bijna 75 procent van de tijd.
Een mogelijke verklaring is dat de kinderen alleen te reageren op de nieuwheid van de situatie, dat is, hebben delen van een sociale ruimte met robots. Maar “deze kritiek houdt geen grond,” de onderzoekers schrijven, want er was geen nauwkeurigheid van de waargenomen afname in de controlegroep. Een andere mogelijkheid is dat de kinderen voelde zich geïntimideerd door de aanwezigheid van de volwassene experimentator, die aanwezig was in de zaal, tijdens de taak. Nogmaals, de onderzoekers het niet eens, zeggende: “dit suggereert nog steeds dat de robots uitgeoefend ‘peer pressure’ en is geen vervanging voor de opmerkingen en conclusies,” toevoegend dat robots “waarschijnlijk zijn het eigendom van iemand, mensen of organisaties en kan als zodanig worden proxies voor indirecte sociale druk van leeftijdgenoten.”
Dit verschijnsel—dat robots de schijnbare stroom te induceren in overeenstemming kinderen—is het belangrijk om acknoweldge. Zoals de onderzoekers schrijven in de studie:
In dit licht, zorg moet worden genomen bij het ontwerpen van de toepassingen en de kunstmatige intelligentie van deze fysiek belichaamde machines, met name omdat er weinig bekend is over de lange-termijn gevolgen van blootstelling aan sociale robots kunnen hebben op de ontwikkeling van kinderen en kwetsbare groepen van de samenleving. Meer specifiek, kunnen problemen ontstaan niet alleen van het opzettelijk programmering van kwaadaardig gedrag (bijv., robots, die zijn ontworpen om te misleiden), maar ook van de onbedoelde aanwezigheid van vooroordelen in kunstmatige systemen of de verkeerde interpretatie van het zelfstandig verzamelde gegevens door een lerend systeem zelf. Bijvoorbeeld, als robots adviseren van producten, diensten of voorkeuren, zal de naleving en dus van convergentie hoger is dan bij de meer traditionele methoden van reclame?
Vervolgens zijn de onderzoekers bevelen aan de lopende discussies over de kwestie, zoals de beschermende maatregelen, zoals het product regulations om het minimaliseren van risico ‘ s voor de kinderen tijdens het sociaal kind-machine interactie.
Geen twijfel, als sociaal intelligente robots en AI krachtiger en meer verspreid, de potentiële schade van kinderen volgt pak. Deze studie toont aan dat kinderen niet over de intelligentie of emotionele kracht om te weerstaan aan de invloed van deze technologieën. Het is een ontnuchterende conclusie, een zeker die nadere bezinning en actie.
[Wetenschap Robotica]