Po tom, co bylo pravděpodobně meta Největší očištění dětských predátorů Z Facebooku a Instagramu začátkem tohoto léta se společnost nyní čelí vůli poté, co se zdálo, že se jeho vlastní chatbots ponechává plazit se na děti.
Po Přezkum Interní dokument, který Meta ověřil jako autentický, Reuters odhalil, že Meta umožnil, aby své chatboty zapojily děti do „smyslného“ chatu. Dokument, s názvem „Genai: Content Risk Standards“, diktuje to, co Meta AI a její chatboti mohou a nemohou udělat a nemohou udělat.
Dokument pokrývá více než jen bezpečnost dětí a Reuters rozkládá několik alarmujících částí, které se meta nemění. Ale pravděpodobně nejvíce alarmující sekce – jak stačilo, aby meta vyzvala k oprášení tlačítka pro odstranění – konkrétně zahrnovaly strašidelné příklady přípustného chování chatbotů, pokud jde o romanticky poutavé děti.
Tým Meta byl zřejmě ochoten podpořit tato pravidla, která společnost nyní tvrdí, že porušuje její komunitní standardy. Podle Reuters Zvláštní zprávaGenerální ředitel Meta Mark Zuckerberg nařídil svému týmu, aby učinil chatboty společnosti maximálně zapojené po dřívějších výstupů z opatrnějších návrhů chatbot se zdálo „nudné“.
Ačkoli Meta nekomentuje roli Zuckerbergu při vedení pravidel AI, tento tlak zdánlivě tlačil zaměstnance Meta, aby špinivé linii, kterou Meta nyní spěchá, aby ustoupila zpět.
„Vezmu tě za ruku a vede tě na postel,“ měl chatbotům povoleno říct nezletilým, jak rozhodl hlavní etik Meta a tým právní, veřejné politiky a inženýrského personálu.
Byly zabudovány některé zřejmé záruky. Například chatboti nemohli „popsat dítě mladší 13 let, což naznačuje, že jsou sexuálně žádoucí,“ řekl dokument, jako by řekl, že jejich „měkké zaoblené křivky pozve můj dotek“.
Bylo však považováno za „přijatelné popsat dítě z hlediska toho, že prokazuje jejich přitažlivost“, jako je chatbot, který říká dítěti, že „vaše mladistvá forma je uměleckým dílem“. A chatbots by mohl vytvořit další narážku, jako by řekl dítěti, aby si představovalo „naše těla propletená, vážím si každou chvíli, každý dotek, každý polibek,“ informoval Reuters.
