Suche
Mein Konto
ChatGPT skandalizuje Nory: Byla odhalena falešná obvinění z vraždy!
Článek zdůrazňuje právní výzvy pro OpenAI poté, co ChatGPT nesprávně označil Nora za vraha.
ChatGPT skandalizuje Nory: Byla odhalena falešná obvinění z vraždy!
Šokující incident vyvolává v Evropě rozruch: Nor Arve Hjalmar Holmen se dostal do titulků poté, co ChatGPT, chatbot OpenAI poháněný umělou inteligencí, o něm rozšířil nepravdivé a urážlivé informace. Podle zprávy od Cosmo Holmen byl falešně zobrazen jako usvědčený vrah, který zabil své dvě děti a pokusil se zavraždit svého třetího syna. Tento děsivý příběh smíchala AI se skutečnými detaily o Holmenově životě, což situaci jen zhoršilo.
Tyto zavádějící „halucinace“, ve kterých umělá inteligence vypráví smyšlené příběhy, již v minulosti vedly k ničivým následkům pro postižené. Dalším příkladem jsou falešná obvinění z korupce vytvořená technologií. Společnost Holmen poté podnikla právní kroky proti OpenAI, protože obecné nařízení o ochraně osobních údajů (GDPR) stanoví jasné požadavky na přesnost osobních údajů. Advokační skupina Noyb ho v této věci podporuje a kontaktoval norský úřad pro ochranu údajů.
Právní důsledky pro OpenAI
GDPR vyžaduje, aby společnosti zajistily přesnost údajů generovaných o jednotlivcích. Kritika přišla od Noyba, který uvádí, že OpenAI nenabízí možnost opravy nesprávných informací a že zůstávají v systému. Předchozí stížnost společnosti Noyb v dubnu 2024 již vyvolala podobné problémy, ale nevedla k požadovaným změnám. Skutečnost, že po tomto incidentu OpenAI nyní aktualizovalo způsob, jakým ChatGPT funguje, což umožňuje AI vyhledávat informace o lidech na internetu, ukazuje vážnost situace. Holmen již není nesprávně uveden jako vrah - ale možnost, že v AI zůstanou nepravdivé a pomlouvačné informace, zůstává. Právník Noyba zdůraznil, že nestačí jen malé upozornění na možné chyby, když se šíří závažná nepravdivá tvrzení o lidech.
Zatímco evropské úřady pro ochranu dat pozorně sledují vývoj, Noyb požaduje, aby byly zákony vymáhány také vůči poskytovatelům AI. Další stížnosti na ChatGPT ukazují, že problém je složitější a že je důležité stanovit jasné zásady ochrany osobních údajů.