Mēs kā sabiedrība esam atklājuši, ka, iespējams, pasaule nav gatava ar ChatGPT darbināmai bērnu rotaļlietai. Pareizāk sakot, ChatGPT nav gatavs droši sadarboties ar bērniem.
Rotaļlietu ražotājs FoloToy paziņoja, ka vilks savu ar mākslīgo intelektu darbināmo rotaļu lācīti ar nosaukumu Kumma, kas tika veidots uz OpenAI GPT-4o modeļa. Ziņas seko ziņojumiem par nopietnām drošības problēmām, tostarp par lāci, kurš runā par seksuālām tēmām, nažiem vai sērkociņu aizdedzināšanu.
“FoloToy ir nolēmis uz laiku apturēt ietekmētā produkta pārdošanu un sākt visaptverošu iekšējo drošības auditu,” FoloToy mārketinga direktors Hugo Vu. stāstīja Reģistrs paziņojumā. “Šajā pārskatā tiks apskatīta mūsu modeļu drošības saskaņošana, satura filtrēšanas sistēmas, datu aizsardzības procesi un bērnu mijiedarbības aizsardzības pasākumi.”
Mashable gaismas ātrums
Jaunumi seko ziņojumam no patērētāju uzraudzības organizācijas, ko sauc par Sabiedrības interešu pētniecības grupu (PIRG), kas atklāja nopietnas bažas par rotaļlietu. Lācītis ziņots, ka viņš sniedza detalizētus norādījumus par sērkociņa aizdedzināšanu, runāja par seksuālām sasitumiem, piemēram, verdzību, un sniedza padomus, kā būt “labam skūpstītājam”. Tā pat jautāja, vai lietotājs vēlētos izpētīt minētās saķeres.
Mēs atkal un atkal esam redzējuši, ka AI rīku aizsargmargas var neizdoties, ja runa ir par jauniešiem. Šķiet, ka ir laba ideja vairs nepārdot ar AI darbināmu rotaļu lācīti, kamēr tas tā ir.
Informācijas atklāšana: Ziff Davis, Mashable mātesuzņēmums, aprīlī iesniedza prasību pret OpenAI, apgalvojot, ka tas pārkāpis Ziff Davis autortiesības apmācībā un AI sistēmu darbībā.
