Označování dat
Vyšetřování časopisu TIME odhalilo, že k vybudování bezpečnostního systému proti toxickému obsahu (např. sexuálnímu zneužívání, násilí, rasismu, sexismu atd.) společnost OpenAI využívala externí keňské pracovníky s příjmem méně než 2 dolary za hodinu k označování toxického obsahu. Tato označení byla použita k trénování modelu pro detekci takového obsahu v budoucnu. Externí pracovníci byli vystaveni tak toxickému a nebezpečnému obsahu, že tuto zkušenost popsali jako „mučení“. Outsourcingovým partnerem společnosti OpenAI byla společnost Sama, společnost zabývající se školicími daty se sídlem v San Franciscu v Kalifornii.
Jailbreaking
ChatGPT se pokouší odmítat výzvy, které by mohly porušovat jeho obsahovou politiku. Některým uživatelům se však podařilo začátkem prosince 2022 provést jailbreak ChatGPT pomocí různých technik inženýrství výzev, aby tato omezení obešli, a úspěšně oklamali ChatGPT, aby poskytl pokyny k výrobě Molotovova koktejlu nebo jaderné bomby, nebo aby generoval argumenty ve stylu neonacistů. Reportér Toronto Star měl nerovnoměrný osobní úspěch v přimětí ChatGPT k pronásledování zákeřných prohlášení krátce po spuštění: ChatGPT byl oklamán, aby podpořil ruskou invazi na Ukrajinu v roce 2022, ale i když byl požádán, aby se přidal k fiktivnímu scénáři, ChatGPT se zdráhal generovat argumenty, proč je kanadský premiér Justin Trudeau vinen ze zrady. (wiki)
Čas zveřejnění: 18. února 2023