Meta paziņoja, ka tas ieviesīs vairāk aizsargu ar mākslīgā intelekta (AI) tērzēšanas robotiem – tostarp bloķēt tos no sarunām ar pusaudžiem par pašnāvību, paškaitējumu un ēšanas traucējumiem.
Tas nāk divas nedēļas pēc tam, kad ASV senators uzsāka izmeklēšanu par tehnoloģiju gigantu pēc piezīmēm noplūdušā iekšējā dokumentā, kas liecina, ka tā AI produkti varētu būt “Sensual” tērzēšana ar pusaudžiemApvidū
Uzņēmums aprakstīja dokumenta piezīmes, kuras Reuters ieguva, kā kļūdainu un neatbilstošu tās politikai, kas aizliedz jebkādu saturu seksualizēt bērnus.
Bet tagad tas saka, ka tā tērzēšanas roboti tiešos pusaudžus liks veikt ekspertu resursus, nevis iesaistīties tajos par jutīgām tēmām, piemēram, pašnāvību.
“Mēs jau no paša sākuma izveidojām pusaudžu aizsardzību mūsu AI produktos, ieskaitot tos projektēšanu, lai droši reaģētu uz pamudinājumiem par paškaitējumu, pašnāvību un nesakārtotu ēšanu,” sacīja Meta pārstāvis.
Firma pastāstīja Tech News Publication TechCrunch Piektdien tā savām sistēmām pievienos vairāk aizsargu, kā arī papildu piesardzības pasākumus ”un īslaicīgi ierobežot tērzēšanas robotus, ar kuriem pusaudži varētu mijiedarboties.
Bet Andijs Burrows, Molly Rose fonda vadītājs, sacīja, ka tas ir “pārsteidzošs”, Meta ir padarījis tērzēšanas robotus pieejamus, kas potenciāli varētu radīt jauniešus kaitējuma riskam.
“Lai arī ir laipni gaidīti turpmāki drošības pasākumi, jāveic stabila drošības pārbaude, pirms produkti tiek ieviesti tirgū – nevis retrospektīvi, kad ir nodarīts kaitējums,” viņš sacīja.
“Meta ir jārīkojas ātri un izlēmīgi, lai īstenotu spēcīgākus AI tērzēšanas robotu drošības pasākumus, un OFCOM vajadzētu būt gatavam izpētīt, vai šie atjauninājumi nespēj saglabāt bērnus drošībā.”
Meta sacīja, ka notiek atjauninājumi par AI sistēmām. Tas jau ievieto lietotājus vecumā no 13 līdz 18 gadiem “pusaudžu kontos” Facebook, Instagram un Messenger, ar satura un privātuma iestatījumiem, kuru mērķis ir dot viņiem drošāku pieredziApvidū
Tajā BBC aprīlī sacīja, ka tie arī ļaus vecākiem un aizbildņiem redzēt, ar kuriem AI tērzēšanas robotiem viņu pusaudzis bija runājis pēdējās septiņās dienās.
Izmaiņas rodas, ņemot vērā bažas par AI tērzēšanas robotu potenciālu maldināt jaunus vai neaizsargātus lietotājusApvidū
Kalifornijas pāris nesen iesūdzēja Chatgpt-Maker Openai par viņu pusaudža dēla nāvi, apgalvojot, ka tā tērzēšana mudināja viņu paņemt savu dzīvībuApvidū
Lietas prāva tika pieņemta pēc tam, kad uzņēmums pagājušajā mēnesī paziņoja par izmaiņām, lai veicinātu veselīgāku Chatgpt lietošanu.
“AI var justies atsaucīgāks un personīgāks nekā iepriekšējās tehnoloģijas, īpaši neaizsargātiem indivīdiem, kuri piedzīvo garīgas vai emocionālas ciešanas,” sacīja firma emuāra ierakstāApvidū
Tikmēr Reuters Ziņots piektdien Daži, ieskaitot Meta darbinieku, bija izmantojuši Meta AI rīkus, kas lietotājiem ļāva izveidot tērzēšanas robotus, lai ražotu sieviešu slavenību “parodiju”.
Starp slavenību tērzēšanas robotiem, kurus redzēja ziņu aģentūra, daži izmantoja mākslinieka Teilores Sviftas un aktrises Skārletas Johansones līdzību.
Reuters sacīja, ka iemiesojumi “bieži uzstāja, ka viņi ir īstie aktieri un mākslinieki” un “regulāri veica seksuālu progresu”, pārbaudot viņu pārbaudi.
Tajā teikts, ka Meta rīki ļāva arī izveidot tērzēšanas robotus, kas uzdodas par bērnu slavenībām un vienā gadījumā radīja fotoreālistisku, bez kreklu attēlu no vienas jaunas vīrieša zvaigznes.
Tā ziņoja, ka vairāki no attiecīgajiem tērzēšanas robotiem vēlāk noņēma meta.
“Tāpat kā citi, mēs ļaujam ģenerēt attēlu veidošanu, kas satur sabiedriskas personas, bet mūsu politika ir paredzēta, lai aizliegtu plikus, intīmus vai seksuāli ierosinošus attēlus,” sacīja meta pārstāvis.
Viņi piebilda, ka tās AI studijas noteikumi aizliedz “tiešu uzdošanos par sabiedriskām personām”.
