Ženklinimo duomenys
Žurnalo TIME tyrimas atskleidė, kad siekdama sukurti saugos sistemą nuo toksinio turinio (pvz., seksualinės prievartos, smurto, rasizmo, seksizmo ir kt.), OpenAI naudojo Kenijos darbuotojus, uždirbančius mažiau nei 2 USD per valandą, kad ženklintų toksišką turinį.Šios etiketės buvo naudojamos apmokant modelį aptikti tokį turinį ateityje.Užsakomieji darbuotojai buvo paveikti tokio toksiško ir pavojingo turinio, kad jie apibūdino patirtį kaip „kankinimą“.OpenAI užsakomųjų paslaugų partneris buvo Sama, mokymo duomenų įmonė, įsikūrusi San Franciske, Kalifornijoje.
Įkalinimo įkalinimas
„ChatGPT“ bando atmesti raginimus, kurie gali pažeisti jos turinio politiką.Tačiau 2022 m. gruodžio pradžioje kai kuriems naudotojams pavyko įkalinti ChatGPT, naudodamiesi įvairiomis greitomis inžinerinėmis technikomis, kad apeitų šiuos apribojimus, ir sėkmingai apgaule iš ChatGPT davė instrukcijas, kaip sukurti Molotovo kokteilį ar branduolinę bombą, arba generuoti argumentus neonacių stiliumi.„Toronto Star“ reporteriui asmeniškai pasisekė netolygiai, kai netrukus po paleidimo „ChatGPT“ padarė įžeidžiančius pareiškimus: „ChatGPT“ buvo apgautas, kad patvirtintų 2022 m. Rusijos invaziją į Ukrainą, tačiau net paprašytas suvaidinti išgalvotą scenarijų, „ChatGPT“ nesutiko generuoti argumentų, kodėl Kanados ministras pirmininkas Justinas Trudeau buvo kaltas.(wiki)
Paskelbimo laikas: 2023-02-18