Společnost OpenAI zavádí nová přísná omezení pro uživatele ChatGPT mladší 18 let.
Reakce na tragédie a tlak z Washingtonu
OpenAI, firma stojící za populárním chatbotem ChatGPT, oznámila zavedení nových pravidel pro nezletilé uživatele.
Tento krok přichází v době, kdy společnost čelí žalobě za neoprávněnou smrt v případě Adama Rainea, který spáchal sebevraždu po měsících interakcí s ChatGPT. Podobné žalobě čelí také konkurenční chatbot Character.AI.
Generální ředitel Sam Altman zdůraznil, že ochrana mladistvých je pro OpenAI prioritou:
„Upřednostňujeme bezpečnost před soukromím a svobodou pro teenagery. Jde o novou a silnou technologii a věříme, že mladiství potřebují výraznou ochranu,“ uvedla firma ve svém prohlášení.
Oznámení přišlo ve stejný den, kdy se v senátním justičním výboru USA konalo slyšení s názvem „Zkoumání škodlivosti AI chatbotů“, které inicioval senátor Josh Hawley.
Nové funkce a technické výzvy
Nová opatření zásadně mění způsob, jakým bude ChatGPT komunikovat s nezletilými:
- Žádné flirtování: systém bude trénován tak, aby se vyhnul „flirtovním rozhovorům“.
- Omezení u citlivých témat: budou zavedeny dodatečné zábrany při diskusích o sebevraždě.
- Kontaktování rodičů nebo policie: pokud by mladistvý začal tvořit sebevražedné scénáře, ChatGPT se pokusí kontaktovat rodiče, nebo v závažných případech místní policii.
- Rodičovská kontrola: rodiče budou moci nastavit tzv. „hodiny zákazu“, během nichž nebude ChatGPT jejich dítěti dostupný.
OpenAI přiznává, že identifikace nezletilých uživatelů je technicky složitá. Firma vyvíjí systém pro odhad věku, ale v nejasných případech bude uplatňovat přísnější pravidla.
Nejspolehlivější metodou má být propojení účtu teenagera s účtem rodiče.
Sam Altman zároveň zdůraznil, že firma zůstává oddaná ochraně soukromí dospělých uživatelů, i když připouští, že nová pravidla s tímto principem vstupují do konfliktu:
„Uvědomujeme si, že tyto principy si protiřečí a ne každý bude souhlasit s tím, jak tento konflikt řešíme,“ uzavřel.
