Důsledky ChatGPT

V kybernetické bezpečnosti

Check Point Research a další poznamenali, že ChatGPT byl schopen psátphishinge-maily amalware, zvláště v kombinaci sKodex OpenAI.Generální ředitel OpenAI napsal, že postupující software by mohl představovat „(například) obrovské riziko kybernetické bezpečnosti“ a také pokračoval v předpovědi „mohli bychom se dostat ke skutečnému AGI (např.umělá obecná inteligence) v příštím desetiletí, takže to riziko musíme brát extrémně vážně“.Altman tvrdil, že zatímco ChatGPT „samozřejmě nemá blízko k AGI“, člověk by měl „důvěřovatexponenciální.Plochý pohled dozadu,vertikální pohled dopředu.“

Na akademické půdě

ChatGPT může psát úvodní a abstraktní části vědeckých článků, což vyvolává etické otázky.Několik článků již uvedlo ChatGPT jako spoluautora.

vAtlantikčasopis,Stephen Marchepoznamenal, že jeho vliv na akademickou půdu a zvláštěaplikační esejeje ještě třeba pochopit.Kalifornský středoškolský učitel a autor Daniel Herman napsal, že ChatGPT zahájí „konec středoškolské angličtiny“.VPřírodaChris Stokel-Walker poukázal na to, že učitelé by se měli zajímat o to, aby studenti používali ChatGPT k outsourcingu psaní, ale že poskytovatelé vzdělávání se přizpůsobí, aby zlepšili kritické myšlení nebo uvažování.Emma Bowman sNPRnapsal o nebezpečí, že studenti plagiují pomocí nástroje AI, který může vydávat neobjektivní nebo nesmyslný text s autoritativním tónem: „Stále existuje mnoho případů, kdy mu položíte otázku a dá vám velmi působivě znějící odpověď, která je prostě smrtelně špatná.“

Joanna Stern sThe Wall Street Journalpopsal podvádění v americké středoškolské angličtině s tímto nástrojem odesláním vygenerované eseje.Profesor Darren Hick zFurmanská univerzitapopsal, jak si všiml „stylu“ ChatGPT v příspěvku předloženém studentem.Online detektor GPT tvrdil, že papír je na 99,9 procent pravděpodobně vytvořený počítačem, ale Hick neměl žádný pevný důkaz.Dotyčný student se však při konfrontaci přiznal k používání GPT a v důsledku toho kurz neprošel.Hick navrhl politiku ad-hoc individuální ústní zkoušky na téma referátu, pokud je student silně podezřelý z odevzdání referátu vytvořeného umělou inteligencí.Edward Tian, ​​starší vysokoškolský student naUniverzita Princeton, vytvořil program nazvaný „GPTZero“, který určuje, jak velká část textu je generována umělou inteligencí, a lze jej použít ke zjištění, zda je esej napsaná lidmi k bojiakademický plagiát.

Od 4. ledna 2023 omezilo ministerstvo školství města New York přístup k ChatGPT ze svého veřejného školního internetu a zařízení.

V zaslepeném testu byl ChatGPT posouzen, že složil zkoušky na postgraduální úrovniUniversity of Minnesotana úrovni studenta C+ a naWharton School z University of Pennsylvaniase stupněm B až B.(Wikipedie)

Příště budeme hovořit o Etických obavách ChatGPT.