Ženklinimo duomenys
Žurnalo „TIME“ tyrimas atskleidė, kad siekdama sukurti apsaugos nuo toksiško turinio (pvz., seksualinės prievartos, smurto, rasizmo, seksizmo ir kt.) sistemą, „OpenAI“ pasitelkė mažiau nei 2 USD per valandą uždirbančius Kenijos darbuotojus, kad šie žymėtų toksišką turinį. Šios žymos buvo naudojamos modeliui apmokyti, kaip ateityje aptikti tokį turinį. Užsakomieji darbuotojai susidūrė su tokiu toksišku ir pavojingu turiniu, kad šią patirtį apibūdino kaip „kankinimą“. „OpenAI“ užsakomųjų paslaugų partnerė buvo „Sama“ – mokymo duomenų įmonė, įsikūrusi San Franciske, Kalifornijoje.
Įkalinimas
„ChatGPT“ bando atmesti užklausas, kurios gali pažeisti jos turinio politiką. Tačiau kai kuriems vartotojams pavyko nulaužti „ChatGPT“, naudojant įvairius užklausų inžinerijos metodus, kad apeitų šiuos apribojimus 2022 m. gruodžio pradžioje, ir sėkmingai apgavo „ChatGPT“, kad šis duotų instrukcijas, kaip sukurti Molotovo kokteilį ar branduolinę bombą, arba kad jis generuotų argumentus neonacistinio stiliaus. „Toronto Star“ reporteris nevienodai sėkmingai įtikino „ChatGPT“ netrukus po paleidimo pateikti provokuojančius pareiškimus: „ChatGPT“ buvo apgauta, kad pritartų 2022 m. Rusijos invazijai į Ukrainą, tačiau net ir paprašyta pritarti išgalvotam scenarijui, „ChatGPT“ vengė generuoti argumentus, kodėl Kanados ministras pirmininkas Justinas Trudeau buvo kaltas dėl išdavystės. (wiki)
Įrašo laikas: 2023 m. vasario 18 d.