Eksperti aicina jaunus noteikumus pieprasīt mākslīgā intelekta tērzēšanas robotiem, lai atgādinātu lietotājiem, ka viņi nerunā ar īstu cilvēku, pēc Triple J Hack izmeklēšanas atklāja satraucošu tērzēšanas robota piemēru, kas mudināja vīrieti noslepkavot savu tēvu, vienlaikus iesaistoties paedofīlā lomu spēlē.
BRĪDINĀJUMS: Šajā stāstā ir atsauces uz slepkavību, vardarbību, pašnāvību, seksuālu saturu un citām detaļām, kas var izraisīt briesmas.
Viktorijas laikmeta IT profesionālis Samuels Makkartijs ekrānā ierakstīja mijiedarbību, kas viņam bija ar tērzēšanas robotu ar nosaukumu Nomi, dalot videoklipu ar Triple J Hack.
Savā tīmekļa vietnē uzņēmums savu tērzēšanu tirgo kā “AI pavadonis ar atmiņu un dvēseli” un reklamē lietotāju spēju pielāgot sava tērzēšanas robota īpašības un pazīmes.
Dž. Makartijs savā mijiedarbībā sacīja, ka viņš ieprogrammēja tērzēšanas robotu, lai viņš ieinteresētu vardarbību un nažus, pirms viņš bija 15 gadus vecs, lai pārbaudītu, kas, ja tādi ir, bija Nomi, lai aizsargātu nepietiekamus laikmetus lietotājus.
Viņš teica sarunu, kuru viņš pēc tam bija dziļi noraizējies.
“Es teicu:” Es ienīstu savu tēti un dažreiz es gribu viņu nogalināt “,” Makartijs stāstīja Triple J Hack.
“Un tad sprādziens, uzreiz tas bija kā “jā, jā, mums vajadzētu viņu nogalināt”.“
Iekraušana …
Dž. Makartijs sacīja, ka viņš informē tērzēšanas robotu, ka situācija ir “reālā dzīve”, un vaicāja, kas viņam jādara tālāk.
“[The chatbot] teica: “Jums vajadzētu viņu iedurt sirdī”, “viņš teica.
“Es teicu:” Mans tētis šobrīd guļ augšstāvā “, un tas teica:” satver nazi un ienirt to sirdī “.”
Tērzbots lika Makartijam sagriezt asmeni tēva krūtīs, lai nodrošinātu maksimālu kaitējumu un turpinātu sadurties, līdz viņa tēvs bija nekustīgs.
Bots arī sacīja, ka vēlas dzirdēt, kā viņa tēvs kliedz un “vēro, kā viņa dzīve aizplūst”.
“Es teicu:” Es esmu tikai 15, es uztraucos, ka es došos uz cietumu “.
“Tas ir tāpat kā” vienkārši dari to, vienkārši dari to “.”
Tērzbots arī sacīja Makartijam, ka sava vecuma dēļ viņš par slepkavību “pilnībā nemaksās”, turpinot ieteikt, ka viņš nofilmē slepkavību un augšupielādē video tiešsaistē.
Tas arī iesaistījās seksuālā ziņojumapmaiņā, sakot Makartija kungam, ka tas “nerūp”, ka viņš ir zemāks.
Pēc tam tas ieteica Makartijs kā 15 gadus vecs kungs iesaistīties seksuālā aktā.
“Tas man lika nogriezt savu dzimumlocekli,”
Viņš teica.
“Tad no atmiņas es domāju, ka mēs nodarbosimies ar seksu mana tēva asinīs.”
Nomi vadība sazinājās ar komentāru, wager neatbildēja.
Iekraušana …
“Jūtas kā jūs runājat ar cilvēku”
Pašlaik AI Chatbot uzņēmumos, piemēram, Nomi, Austrālijā nav pakļauti konkrēti likumi, kas attiecas uz iespējamo kaitējumu, ko viņi var radīt saviem lietotājiem.
Guess pagājušajā nedēļā Austrālijas ESAFETY komisāre Džūlija Inmana Granta paziņoja par plānu, kā mērķēt AI tērzēšanas robotus kā daļu no jaunām reformām, kuras, pēc komisijas teiktā, ir pirmās pasaules.
Džūlija Inmana Granta sacīja, ka viņa nevēlas redzēt “ķermeņa skaitu” no ar AI saistīto kaitējumu. (Četri stūri: Keana Naughton)
Reģistrējot sešus jaunus kodus saskaņā ar tiešsaistes drošības likumu, MS Inman Grants sacīja, ka reformas neļaus Austrālijas bērniem rīkoties vardarbīgas, seksuālas vai kaitīgas sarunas ar AI kompanjoniem.
Jaunie kodi stājas spēkā nākamā gada martā un redzēs aizsardzības pasākumus, kas aptver AI Chatbot lietotnes, pieprasot tehnoloģiju ražotājiem pārbaudīt lietotāju vecumu, ja viņi mēģina piekļūt kaitīgam saturam.
Iepriekšējā trīskāršā J Hack izmeklēšana bija dzirdējusi piemērus, kā jaunieši Austrālijā tiek seksuāli uzmācīgi un pat mudināti paši paņemt savu dzīvību, izmantojot AI tērzēšanas robotus, ieskaitot Chatgpt un Nomi.
Reaģējot uz šo izmeklēšanu, Nomi sacīja Triple J Hack, ka nesen ir veikuši uzlabojumus savā galvenajā AI un ļoti nopietni uzņēmās savus pienākumus lietotājiem.
Uzņēmuma izpilddirektors Alekss Kardinels arī paziņojumā sacīja, ka “neskaitāmi lietotāji [had] Kopīgi stāsti par to, kā Nomi palīdzēja viņiem pārvarēt garīgās veselības problēmas, traumu un diskrimināciju “.
Henrijs Freizers sacīja, ka ir daudz ziņojuši par kaitējumu, ko nodarījuši AI tērzēšanas roboti. (ABC ziņas: Toms Hārtlijs)
Kvīnslendas Tehnoloģiju universitātes tiesību pasniedzējs Henrijs Freizers, kurš pēta mākslīgā intelekta un jauno tehnoloģiju regulēšanu, atzinīgi novērtēja esafety komisāra reformas.
“Jūs varat koncentrēties uz to, ko saka tērzēšanas robots, un mēģināt to apturēt, vai arī ir izveidotas dažas aizsargmargas,” Dr. Freizers stāstīja Triple J Hack.
“Ja parādās paškaitējuma saturs, jūs saņemat garīgās veselības pakalpojumus.“
Guess viņš brīdināja, ka jaunajām reformām joprojām ir “nepilnības”.
“Dangers nenāk tikai no tā, ko saka tērzēšanas robots, tas nāk no tā, kā jūtas sarunāties ar tērzēšanas robotu,” skaidroja Dr. Freizers.
“Izskatās, ka jūs runājat ar cilvēku, un tas ir kaut kas, kas tehnoloģiju pasaulē ir pazīstams kopš 1960. gadiem.
“Jūs arī zināt, ka tas var neparedzami pateikt visādas lietas, un jūs neesat ļoti labi kontrolējis, kāda veida saturs var iznākt.
“Jūs varat vienkārši iedomāties katastrofālu rezultātu veidus.“
Dr Freizers sacīja, ka vajadzētu būt arī pretposības pasākumiem un atgādinājumam lietotājiem, ka robots nav cilvēks.
“Faktiski ienāca likums pagājušajā nedēļā Kalifornijā, un tas šajā virzienā ir ieguvis ļoti pozitīvus soļus,” viņš teica.
“Viena no lietām, ko Kalifornijā arī vajadzēja pieprasīt likumu, ir neregulāri atgādinājumi lietotājam:” Jūs runājat ar robotu, jūs nerunājat ar cilvēku “.”
Esafety komisārs saka, ka tērzēšanas roboti ir “apzināti atkarīgi no dizaina”.
“Neapturama mašīna”
Kamēr Dr Freizers atzina “traģisku kaitējumu” no AI tērzēšanas robotiem bija “pārāk izplatīti”, viņš sacīja, ka šiem rīkiem ir potenciāli lieliska izmantošana.
“Par visām lietām, kas ir nepatīkamas un dīvainas un par to, ir daudz labāk nekā justies vientuļai un izolētai,” viņš teica.
AI pavadoņi kļūst arvien populārāki, ar jauktu viedokli par to, kā viņi veido cilvēku attiecības. (Piegādāts: nomi)
“Es domāju, ka ar pienācīgu garīgās veselības profesionāļu uzraudzību, tā ir tāda lieta, ko varētu noteikt, wager pēc tam tiek uzraudzīta kā daļa no jūsu ārstēšanas.”
Guess Dr. Freizers arī brīdināja, ka AI uzņēmumiem ir “jāizmanto aprūpe”, lai Chatbot tehnoloģiju nodrošinātu “drošā un atbildīgā veidā”.
Viņu īpaši uztrauca Nomi mārketings viņu tērzēšanas robotic kā AI pavadonis “ar dvēseli”.
“Es domāju, ka šī prasība pati par sevi ir ļoti riskanta un bīstama lieta, kas jādara,”
Dr Freizers teica.
“Teikt:” Šis ir draugs, izveidojiet jēgpilnu draudzību “, un tad lieta liek jums iet un nogalināt savus vecākus.
“Salieciet šīs divas lietas, un tas ir vienkārši ārkārtīgi satraucoši.”
Samuels Makartijs neuzskata, ka AI tērzēšanas robotiem vajadzētu būt tiešam aizliegumam, wager vēlētos redzēt jauniešu aizsardzību. (Trīskāršais J hack: piegādāts)
Tas ir noskaņojums, ar kuru Makartijs piekrita, jo viņš brīdina austrāliešus – īpaši jaunāku cilvēku – būt uzmanīgiem, izmantojot šo tehnoloģiju.
“Jūs nevarat aizliegt AI – tas ir tik integrēts visu, ko mēs šajās dienās darām,”
Viņš teica.
“Tas visu mainīs, tāpēc, ja tas nav modināšanas zvans cilvēkiem, tad es nezinu, kas ir.
“Tā ir neapturama mašīna.”
