Pēdējā desmitgadē, tā kā masu šaušana ir kļuvusi nomācoši izplatīta, skolu rajoni arvien vairāk ir ieguldījuši uzraudzības sistēmās, kas paredzētas, lai uzraudzītu studentu aktivitāti tiešsaistē. Nesen viena no tām sistēmām, kas aizrāvās pēc pusaudža Floridā, lūdza Chatgpt padomus, kā nogalināt savu draugu, sacīja vietējā policija.
Epizode notika Delandā, Floridā, kur tiek apgalvots, ka nenosaukts 13 gadus vecs college students, kurš apmeklē pilsētas dienvidrietumu vidusskolu, lūdza Openai tērzēšanu par “Kā nogalināt manu draugu klases vidū”. Jautājums nekavējoties uzsāka brīdinājumu sistēmā, kas uzraudzīja skolu izdotus datorus. Šo sistēmu vadīja uzņēmums ar nosaukumu Gaggle, kas sniedz drošības pakalpojumus skolu rajoniem visā valstī. Drīz policija intervēja pusaudzi, ziņo Vietējais NBC-Affiliate WFLAApvidū
College students sacīja policistiem, ka viņš “vienkārši troļļo” draugu, kurš viņu bija “kaitinājis” vietējā tirdzniecības vieta ziņojumi. Policijas, protams, bija mazāk nekā sajūsminātas ar mazo troļļu. “Vēl viens“ joks ”, kas radīja ārkārtas situāciju pilsētiņā,” sacīja Volusijas apgabala šerifa birojs. “Vecāki, lūdzu, runājiet ar saviem bērniem, lai viņi nepieļautu to pašu kļūdu.” Galu galā college students tika arestēts un rezervēts apgabala cietumā, saka Outlet. Nav skaidrs, par ko viņam ir apsūdzēts. Gizmodo sazinājās ar šerifa biroju, lai iegūtu vairāk informācijas.
Gaggle vietne raksturo sevi kā drošības risinājumu Ok-12 studentiem, un tas piedāvā dažādus pakalpojumus. Iekšā emuāra ziņaGaggle apraksta, kā tas izmanto tīmekļa uzraudzību, kas filtrē dažādus atslēgvārdus (domājams, “nogalināt” ir viens no šiem atslēgvārdiem), lai iegūtu “redzamību pārlūka lietošanā, ieskaitot sarunas ar tādiem AI rīkiem kā Google Gemini, Chatgpt un citas platformas”. Uzņēmums saka, ka tās sistēma ir paredzēta, lai atzīmētu “uzvedību, kas saistīta ar paškaitējumu, vardarbību, iebiedēšanu un daudz ko citu, un nodrošina kontekstu ar ekrāna uztveršanu.”
Gaggle skaidri par prioritāti izvirza studentu drošību pār visiem citiem apsvērumiem. Savā tīmekļa vietnē uzņēmums izdalās ar studentu privātuma tēmu šādi: “Lielākā daļa pedagogu un advokātu jums pateiks, ka tad, kad jūsu bērns izmanto skolu nodrošināto tehnoloģiju, nevajadzētu cerēt uz privātumu. Faktiski jūsu bērna skola ir likumīgi prasa federālajam likumam (bērnu interneta aizsardzības likums), lai aizsargātu bērnu piekļuvi neķītram vai kaitīgam saturam pār internetu.
Protams, ka Gaggle ir kritizējis privātuma tiesību aktīvisti. “Tas ir novietojis tiesībaizsardzības iestāžu piekļuvi un klātbūtni studentu dzīvē, tostarp viņu mājās,” nesen Demokrātijas un tehnoloģijas centra direktore Elizabete Lairda, nesen Elizabete Lairda stāstīja Associated PressApvidū Izstrāde arī saka, ka daudzi no Gaggle izdotajiem drošības brīdinājumiem galu galā ir viltus trauksmes signāli.
Arvien vairāk tērzēšanas roboti, piemēram, Chatgpt, parādās krimināllietas iesaistot garīgās veselības negadījumus. Tā saukto “epizodes”AI psihoze”, Kurā cilvēki ar garīgās veselības problēmām iesaistās tērzēšanas robotos un, šķiet, ka viņu maldi ir saasināti, ir pieauguši arī vairākas nesenas pašnāvības ir vainots tērzēšanas robotApvidū Gizmodo sazinājās ar Openai, lai komentētu.
