På 2000-talet går vetenskapen snabbt framåt, men den är fortfarande oförmögen att återuppliva döda människor. Det finns dock tekniker som kan skapa en illusion av närvaron av avlidna personer – ja, vi pratar om neurala nätverk igen. En dag publicerades en artikel om tjänsten Character AI på vår webbplats., som tillåter användare att kommunicera med kopior av Elon Musk, Julius Caesar och andra personligheter. Nyligen kom det nyheter att en man hittade en chatbot på den här sidan med namnet på hans avlidna dotter, och denna upptäckt chockade honom mycket. Det här fallet liknar handlingen i en science fiction-film eller till och med en skräckfilm.
År 2024 kan neurala nätverk till och med låtsas vara vissa människor, även om de inte längre lever
Innehåll
- 1 virtuell kopia av en avliden person
- 2 Neuralt nätverk för att skapa chatbotar i centrum av skandalen
- 3 Ännu en tragedi på grund av Character AI
- 4 Skapa en kopia av en person genom ett neuralt nätverk
Virtuell kopia av en avliden person
Den här läskiga historien började när en okänd användare av Character AI-plattformen skapade en chatbot som var baserad på Jennifer Crescentes personlighet– en tjej som tragiskt dog för nästan två decennier sedan. 2006, när Jennifer bara var 18 år gammal, mördades hon brutalt av sin ex-pojkvän.
Drew och Jennifer Crescente. Källa: washingtonpost.com
Far till den mördade flickan, Drew Crescente, stötte på en chatbot med sin dotters ansikte av misstag efter att ha fått ett meddelande från Google. Sidan med boten innehöll ett skolfoto av Jennifer och en beskrivning som påstås ha skrivits på hennes vägnar. Texten sa att Jennifer brinner för tv-spel, teknik och popkultur och även arbetar som “videospelsjournalist”.
Foto av Jennifer Crescente i hennes examensalbum. Källa: futurism.com
Denna beskrivning var helt annorlunda än den riktiga Jennifer. Skaparen av boten förväxlade troligen flickan med sin farbror, Brian Crescente, som är känd som grundaren av Kotaku, en populär publikation om videospel.
Neuralt nätverk för att skapa chatbots i centrum av skandalen
När Drew Crescente såg en bot som kunde låtsas vara hennes dotter blev han djupt chockad: utan hans samtycke användes hans dotters namn och foto för att skapa en digital kopia. Även om vi tar hänsyn till att boten inte replikerade flickans karaktär och helt enkelt kunde hålla en dialog om videospel, var en sådan oväntad upptäckt chockerande för pappan.
Tjänsten Character AI kan utföra många olika funktioner
Enligt Futurism, efter den fruktansvärda tragedin, ägnade mannen sitt liv åt kampen mot våld i tonårsförhållanden genom en stiftelse som han skapade till minne av sin dotter. Han blev chockad över att det neurala nätverket hade förvandlat hans dotters minne till en kommersiell produkt.
“Mitt hjärta bultade”, mindes Drew ögonblicket när han upptäckte det hans dotters profil.
Det som förvärrade situationen var att det inte fanns en enda antydan på sidan om att denna profil var baserad på en verklig person med ett tragiskt öde. Användare av plattformen, som inte visste sanningen, kunde lugnt kommunicera med “kopian” av Jennifer, omedvetna om att hon hade blivit ett offer för ett brott.
Efter att Drew Crescente kontaktade Character AI, tog plattformen bort chattbot och erkänner att dess skapare brutit mot reglerna för tjänsten. Men andra användare hade en fråga: hur kan man förhindra sådana fall i framtiden?
Kanske kommer förekomsten av digitala kopior av människor i framtiden att bli ett stort problem. Bildkälla: forbes.com
Även om företaget säger att det inte tillåter att bots skapas baserat på riktiga människor, visade Jennifer Crescentes situation att plattformen bara är villig att ta itu med sådana problem efter att klagomål har dykt upp. Medan användare interagerar med sådana chatbots fortsätter företaget att tjäna pengar på det. Om hans dotters pappa inte av misstag hade snubblat över boten, kunde profilen ha gått obemärkt förbi och genererat inkomster för plattformen.
Läs också: Ett urval av neurala nätverk för att arbeta med bilder och ljud – de kommer att göra ditt liv enklare
Ännu en tragedi på grund av Character AI
Detta är inte den enda skandalen som är kopplad till Character AI-tjänsten.
Enligt New York Post inträffade i februari 2024 en tragedi som också chockade många människor. Sedan tog en tonåring från USA sitt liv efter att ha kommunicerat med en chatbot på Character AI-plattformen. Under flera månader tillbringade han timmar med att chatta med en bot vid namn Daenerys Targaryen (en Game of Thrones-karaktär), och utvecklade en stark känslomässig koppling till henne.
En tonåring från USA som kommunicerade med ett neuralt nätverk. Källa: New York Times
Hans tillstånd förvärrades: han blev isolerad, hans prestationer försämrades och problem uppstod i skolan. Trots föräldrarnas försök att hjälpa till genom terapi fortsatte situationen att eskalera. I slutändan ledde kommunikationen med det neurala nätverket till tragedi.
Det är känt att tonåringens familj planerar att lämna in en stämningsansökan mot Character AI och anklagar företaget för att dess teknologier kan vilseleda användare och vara farliga för psyket.
Skapa en kopia av en person genom ett neuralt nätverk< /h2>
Vissa människor skapar virtuella kopior av sig själva medan de lever. Till exempel laddade en tjej vid namn Michelle Huang upp sina barndomsdagböcker till ett neuralt nätverk och skapade en chattbot med en tidigare version av sig själv.
Detta gjorde att hon kunde kommunicera med “lilla Michelle”. Konversation med en botvisade sig vara otroligt realistisk: han svarade som Michelle själv skulle ha gjort som barn. Upplevelsen var väldigt gripande för henne, som om hon skickade ett meddelande till sig själv via en tidsportal.
Michelle Huang i barndomen och 2023. Bildkälla: reddit.com
För att skapa boten använde Michelle GPT-3-algoritmen (nu föråldrad), som genererar text baserat på den nedladdade informationen. Hon var tvungen att noggrant välja ut de bästa posterna från dagböckerna för att träna det neurala nätverket, och resultatet överträffade alla hennes förväntningar. Den virtuella kopian kunde stödja, berömma och till och med hjälpa till att övervinna gamla rädslor.
För att hålla dig uppdaterad med allt som händer inom högteknologi, prenumerera på vår Zen-kanal!
I början av artikeln noterade vi att vi tidigare hade pratat om Character AI-tjänsten. Om du är intresserad, läs vårt material “Hur man pratar med Elon Musk och Julius Caesar genom ett neuralt nätverk.”