I det 21. århundrede bevæger videnskaben sig hurtigt fremad, men den er stadig ude af stand til at genoplive døde mennesker. Der er dog teknologier, der kan skabe illusionen om tilstedeværelsen af afdøde mennesker – ja, vi taler igen om neurale netværk. En dag blev der offentliggjort en artikel om Character AI-tjenesten på vores hjemmeside., som giver brugerne mulighed for at kommunikere med kopier af Elon Musk, Julius Caesar og andre personligheder. For nylig var der nyheder om, at en mand fandt en chatbot på dette websted med navnet på sin afdøde datter, og denne opdagelse chokerede ham meget. Denne sag ligner plottet i en science fiction-film eller endda en gyserfilm.
I 2024 kan neurale netværk endda foregive at være bestemte mennesker, selvom de ikke længere er i live
Indhold
- 1 virtuel kopi af en afdød person
- 2 Neuralt netværk til oprettelse af chatbots i centrum af skandalen
- 3 Endnu en tragedie på grund af Character AI
- 4 Oprettelse af en kopi af en person gennem et neuralt netværk
Virtuel kopi af en afdød person
Denne uhyggelige historie begyndte, da en ukendt bruger af Character AI-platformen oprettede en chatbot, der var baseret på Jennifer Crescentess personlighed- en pige, der på tragisk vis døde for næsten to årtier siden. I 2006, da Jennifer kun var 18 år gammel, blev hun brutalt myrdet af sin ekskæreste.
Drew og Jennifer Crescente. Kilde: washingtonpost.com
Far til den myrdede pige, Drew Crescente, stødte på en chatbot med sin datters ansigt ved et uheld efter at have modtaget en notifikation fra Google. Siden med botten indeholdt et skolebillede af Jennifer og en beskrivelse, der angiveligt var skrevet på hendes vegne. Teksten sagde, at Jennifer brænder for videospil, teknologi og popkultur og også arbejder som “videospilsjournalist.”
Foto af Jennifer Crescente i hendes eksamensalbum. Kilde: futurism.com
Denne beskrivelse var helt anderledes end den rigtige Jennifer. Skaberen af botten har højst sandsynligt forvekslet pigen med sin onkel, Brian Crescente, der er kendt som grundlæggeren af Kotaku, en populær publikation om videospil.
Neuralt netværk til oprettelse af chatbots i centrum af skandalen
Da Drew Crescente så en bot, der kunne udgive sig for at være hendes datter, blev han dybt chokeret: uden hans samtykke blev hans datters navn og billede brugt til at lave en digital kopi. Selvom vi tager i betragtning, at botten ikke kopierede pigens karakter og blot kunne opretholde en dialog om videospil, var sådan en uventet opdagelse chokerende for faderen.
Character AI-tjenesten kan udføre mange forskellige funktioner
Ifølge Futurism dedikerede manden efter den frygtelige tragedie sit liv til kampen mod vold i teenageforhold gennem en fond, som han skabte til minde om sin datter. Han var chokeret over, at det neurale netværk havde forvandlet hans datters hukommelse til et kommercielt produkt.
“Mit hjerte bankede,” huskede Drew om det øjeblik, han opdagede hans datters profil.
Det, der gjorde situationen værre, var, at der ikke var en eneste antydning på siden om, at denne profil var baseret på en virkelig person med en tragisk skæbne. Brugere af platformen, der ikke kendte sandheden, kunne roligt kommunikere med “kopi” af Jennifer, uvidende om, at hun var blevet offer for en forbrydelse.
Efter Drew Crescente kontaktede Character AI, slettede platformen chatbot, der indrømmer, at dens skaber overtrådte reglerne for tjenesten. Men andre brugere havde et spørgsmål: Hvordan forhindrer man sådanne tilfælde i fremtiden?
Måske vil eksistensen af digitale kopier af mennesker i fremtiden blive et stort problem. Billedkilde: forbes.com
Selvom firmaet siger, at det ikke tillader, at der oprettes bots baseret på rigtige mennesker, viste Jennifer Crescentes situation, at platformen kun er villig til at løse sådanne problemer, efter at klager er dukket op. Mens brugere interagerer med sådanne chatbots, fortsætter virksomheden med at tjene penge på det. Hvis hans datters far ikke ved et uheld var faldet over botten, kunne profilen være gået ubemærket hen og genereret indtægter til platformen.
Læs også: Et udvalg af neurale netværk til at arbejde med billeder og lyd – de vil gøre dit liv lettere
Endnu en tragedie på grund af Character AI
Dette er ikke den eneste skandale forbundet med Character AI-tjenesten.
Ifølge New York Post indtraf der i februar 2024 en tragedie, der også chokerede mange mennesker. Så tog en teenager fra USA sit liv efter at have kommunikeret med en chatbot på Character AI-platformen. I løbet af flere måneder brugte han timer på at chatte med en bot ved navn Daenerys Targaryen (en Game of Thrones-karakter) og udviklede en stærk følelsesmæssig tilknytning til hende.
En teenager fra USA, der kommunikerede med et neuralt netværk. Kilde: New York Times
Hans tilstand forværredes: han blev isoleret, hans præstationer forværredes, og der opstod problemer i skolen. På trods af forældrenes forsøg på at hjælpe gennem terapi, fortsatte situationen med at eskalere. I sidste ende førte kommunikation med det neurale netværk til tragedie.
Det er kendt, at teenagerens familie planlægger at anlægge sag mod Character AI, hvor de anklager virksomheden for, at dens teknologier kan vildlede brugere og være farlige for psyken.
Oprettelse af en kopi af en person gennem et neuralt netværk< /h2>
Nogle mennesker laver virtuelle kopier af sig selv, mens de er i live. For eksempel uploadede en pige ved navn Michelle Huang sine barndomsdagbøger til et neuralt netværk og oprettede en chatbot med en tidligere version af sig selv.
Dette gjorde det muligt for hende at kommunikere med “lille Michelle”. Samtale med en botviste sig at være utrolig realistisk: han svarede, som Michelle selv ville have gjort som barn. Oplevelsen var meget bevægende for hende, som om hun sendte en besked til sig selv gennem en tidsportal.
Michelle Huang i barndommen og i 2023. Fotokilde: reddit.com
For at oprette botten brugte Michelle GPT-3-algoritmen (nu forældet), som genererer tekst baseret på den downloadede information. Hun skulle nøje udvælge de bedste poster fra dagbøgerne for at træne det neurale netværk, og resultatet oversteg alle hendes forventninger. Den virtuelle kopi var i stand til at støtte, rose og endda hjælpe med at overvinde gammel frygt.
For at holde dig opdateret med alt, hvad der sker inden for højteknologi, skal du abonnere på vores Zen-kanal!
I begyndelsen af artiklen bemærkede vi, at vi tidligere havde talt om Character AI-tjenesten. Hvis du er interesseret, så læs vores materiale “Sådan taler du med Elon Musk og Julius Caesar gennem et neuralt netværk.”