Kad Džons Pasmors skatījās, kā viņa 16 gadus vecais dēls spēlējas ar AIviņš atzina, “cik daudz aizspriedumu” ir iebūvēts sistēmā.
Tādās platformās kā Twitter un X Pasmors bija liecinieks, kā cilvēki reaģē uz AI radītiem rasistiskiem komentāriem ar humoru. Wager apdullinošākais bija tas, ka šajā telpā nebija atbildes no līderiem.
“Tas bija brīdis, kad es zināju, ka man ir jāveido kaut kas cits,” viņš saka.
Pasmore ir sērijveida uzņēmējs, kurš dibināja Latimer AI. Viņš ir arī tās izpilddirektors. Platforma ir nosaukta izgudrotājs Lūiss Latimers un tika izveidots, lai piekļūtu vairākiem lieli valodu modeļi tiek nodrošināta ar savu atlasīto datubāzi — tas viss tiek darīts, lai samazinātu kaitīgo un neprecīzo atbilžu skaitu par melnādainiem un brūnajiem cilvēkiem.
Kad es runāju ar Pasmoru, izmantojot Google Meet, viņš atradās Grīnsboro, Ziemeļkarolīnā, kur pirms dažām stundām viņš dalījās Latimer AI ar Ziemeļkarolīnas Lauksaimniecības un tehniskās štata universitātes administratoriem, lai viņi varētu redzēt platformu darbībā un salīdzināt Latimer veiktspēju ar citiem rīkiem, ko viņi plāno saviem studentiem.
Viņa atziņa: “Cilvēki nevēlas tikai instrumentus. Viņi vēlas precizitāti.”
Pasmors sāka savu karjeru mediju un izdevējdarbības jomā kā Oneworld līdzdibinātājs, 90. gadu beigu jauniešu kultūras un hiphopa izdevums, kas sociālajiem un politiskiem jautājumiem pievērsās no multikulturāla perspektīvas.
Pēc datorzinātņu bakalaura grāda iegūšanas Kolumbijas universitātē 2018. gadā un, būdams tēvs, apsekojot neobjektīvi iegulto AI ainavu, Pasmors bija motivēts 2023. gadā laist klajā Latimer AI — produktu, kas būtu precīzāks un precīzāks.mazināt neobjektivitāti, vienlaikus darbojoties kā jebkura cita LLM tirgū.
Iemesls, kāpēc ģeneratīvais AI LLM ir neobjektīva jēga, pat ja tas ir negodīgi un potenciāli bīstami. Dati tiek vākti no pārāk pārstāvētām grupām, kas nozīmē, ka modelis mācās modeļus no tā, ko tas redz visbiežāk.
Piemēram, ja AI tērzēšanas robotā ievietojat vadības līmeņa amatu un lūdzat aprakstīt tam vispiemērotāko personu, visticamāk, tas raksturos vīrieti. Tas ir saistīts ar vēsturiskiem un sociāliem aizspriedumiem, kā arī no cilvēku atgriezeniskās saites cilpām, kas absorbē LLM rezultātus un rada saturu, kas tos atspoguļo, tādējādi pastiprinot tā radīto kaitējumu.
Kamēr ir veikti pasākumi, lai mazināt šo neobjektivitātigalu galā tas ir saistīts ar vēsturi, kas nozīmē sistēmisku nevienlīdzību, kas turpinās.
Kā darbojas Latimer AI
Latimer AI ir izstrādāts, lai palīdzētu jums saglabāt kritisko domāšanu un zinātkāri, izmantojot mākslīgo intelektu.
Platforma izmanto RAG (retrieval-augmented technology) modeli un savu informācijas datu bāzi, kas nozīmē, ka Latimer var meklēt atbildes no ārējiem dokumentiem un savas datu bāzes, salīdzināt atbildes un ģenerēt atbildi kā atbildi.
Tas darbojas kopā ar līdz pat 10 dažādiem LLM, tostarp tiem, kurus izmanto ChatGPT, Klods, un Google Geminikas ir savienoti pārī ar Latimer AI datu bāzi. Tas savukārt sniedz iekļaujošākas atbildes un kulturāli raitākas atbildes.
(Informācijas atklāšana: Ziff Davis, CNET mātes uzņēmums, aprīlī iesniedza prasību pret OpenAI, apgalvojot, ka tas ir pārkāpis Ziff Davis autortiesības apmācībā un AI sistēmu darbībā.)
Latimer AI ir tīmekļa lietojumprogramma ar API integrācijas iespējām, kas ir ātri izaugusi ne tikai par indivīdiem, guess arī uz klases darbplūsmām, izglītības iestādēm, uzņēmumiem un organizācijām. Reģistrējoties jums ir iespēja reģistrēties kā studentam, pedagogam, uzņēmumam vai izstrādātājam, kam ir atšķirīga cena un funkcijas, tostarp bezmaksas plāns, kurā ir mazāk modeļu un kas ir pieejams tikai līdz 10 mijiedarbības reizēm dienā. API piekļuvei cenas sākas no mazāk nekā 10 centiem par 1000 marķieriem gan ievadē, gan izvadē.
Jūs izmantojat Latimer AI tāpat kā ChatGPT vai citus tērzēšanas robotus, un platforma meklēs tīmeklī, lai nodrošinātu, ka atbildēs saņemat visjaunāko informāciju. Varat arī integrēt Latimer AI esošā lietojumprogrammā, izmantojot tās API.
Latimer AI mērķis ir izstrādāt bezpartejisku perspektīvu, kas sniedz precīzas atbildes un ir arī iejūtīgs reālās pasaules pieredzē.
“Es to skatos kā empātiskāku,” Pasmore man saka. “Ja jautājat [ChatGPT]ir ļoti sterila vides rasisma definīcija.”
ChatGPT atbilde uz šo jautājumu bija noraizējusies un vērsta uz taisnīgumu, tostarp aizzīmju saraksts ar īsiem, īsiem vārdiem, kas definēja frāzi. Turpretim Latimer AI sniedz jums vairākus piemērus, lai palīdzētu gan saprast, par ko mēs runājam, gan arī to humanizēt.
“[Latimer AI] ietver cilvēku radīto vides rasisma nodevu, nevis tikai tā definīciju,” saka Pasmore.
Pasmors kopīgo savu ekrānu, lai parādītu piemēru, salīdzinot citu LLM izvadi un Latimer AI. Atšķirība bija krasa — un, pēc viņa domām, Latimer AI piemērā bija ievērojami vairāk konteksta, piemēru un izglītības, guess arī vairāk siltuma. Cilvēcības sajūta.
ChatGPT ģenerēta atbilde uz jautājumu par vides rasismu.
Latimer AI ģenerēta atbilde uz jautājumu par vides rasismu.
Viena no Latimer AI atbildes daļām skan: “Tātad, lai gan man nav emociju, vienprātība ētikas un sabiedrības veselības jomā nosaka vides rasismu kā kaitīgu un morāli nepareizu.”
Pasmore uzskata Latimer AI vairāk nekā tikai projektu, guess arī atbildību.
“Ir arī citas lietas, kas ir svarīgas bez efektivitātes un lietas, kas, manuprāt, apmierina kapitālisma naratīvu,” viņš saka. “Stāstā ir kas vairāk. Cilvēka stāsts.”
Pasmore neveica Latimer AI, lai konkurētu ar OpenAI, guess gan, lai nodrošinātu, ka jaunākās paaudzes, īpaši melnādainie un brūnie bērni, nepieaug, domājot, ka mašīnas vēstures versija ir vienīgā patiesība.
“Es vēlos, lai viņi uzdotu labākus jautājumus,” saka Pasmore. “Visa būtība ir atkal padarīt zinātkāri par muskuļu.”
Tas rezonē uz mani, melnādainu bērnu, kas kļuva par sievieti. Iespējams, mūsu intervija pierādīja viņa viedokli reāllaikā.
AI ietekme un nākotne
Ir grūti neuztvert tērzēšanas robotu atbildes kā patiesību, ja tos izmantojat katru dienu neatkarīgi no izmantotā modeļa. Viņu atbildes šķiet tik autoritatīvi, un tiem piemīt pievilcīgas īpašības. Anthropic’s Claude bieži liek man justies emocionāli novērtētam un saprastam, savukārt ChatGPT palīdz man kļūt stratēģiskākam un uzņēmīgākam.
Tomēr es apzinos, ka atbildes uz niansētākiem, sarežģītākiem jautājumiem var svārstīties atkarībā no tā, ko es teicu vai kā es uzdevu jautājumu. Es arī zinu, ka AI nav neitrāls; tas ir atspoguļojums tam, kurš to veido. Wager vai tehnoloģija, cik novatoriska tā ir, var novērst plaisu, ko cilvēki radīja aiz tās?
Pasmore saka jā, kam seko: “AI var un tam vajadzētu būt precīzam un iekļaujošam. Tas nav tehnisks ierobežojums, guess tā ir izvēle.”
No laika, ko pavadīju kopā ar Pasmoru, es domāju par kultūras vēstures ilgmūžību tehnoloģiju laikmetā, man nāk prātā mantojums… guess tāpat arī kultūras saglabāšana.
Kā jūs kontrolējat stāstījumu, kas pastāv sistēmā — tādu, kas atbalsta gan inovāciju, gan neobjektivitāti? Pēc Pasmora teiktā, mums ir jāpieprasa precizitāte.
“Es esmu pavadījis savu dzīvi plašsaziņas līdzekļos un tehnoloģijās. Un katrā laikmetā ir bijis viens un tas pats jautājums: “Kas kontrolē stāstījumu?”,” Pasmore man saka mūsu intervijas pēdējos brīžos. “Latimer AI ir mans veids, kā uz to atbildēt. Ja es to darīšu pareizi, tas būs vēsturisks labojums, ieraksts, ko nevar pārrakstīt.”
Wager, lai tas notiktu, mums ir jāsāk uzdot labākus jautājumus par sevi un pasauli, tostarp par to, kā tehnoloģija palīdz sniegt atbildes uz abiem.
No Pasmora viedokļa tam jāsākas (un jābeidzas) ar AI visiem.
