Ouens Sakava, Elloe AI dibinātājs, vēlas, lai viņa platforma būtu “AI imūnsistēma” un “antivīruss jebkuram AI aģentam”.
Ideja, Sakawa teica intervijā dienas pirms TechCrunch Disrupt konferences, kurā Elloe AI ir Startup Battlefield konkursa High 20 finālists, ir pievienot uzņēmumu LLM slāni, kas pārbauda novirzes, halucinācijas, kļūdas, atbilstības problēmas, dezinformāciju un nedrošus rezultātus.
“AI attīstās ļoti ātri, un tas tik ātri pārvietojas bez aizsargmargām, bez drošības tīkliem, bez mehānisma, kas novērstu tā nokrišanu no sliedēm,” sacīja Sakava (attēlā iepriekš).
Elloe AI ir API vai SDK, modulis, kas atrodas AI modeļa izvades slāņa augšpusē, “infrastruktūra jūsu LLM konveijera augšpusē”, kā paskaidroja Sakava. “Un tā pamatā atrodas faktu pārbaudei katrai atbildei.”
Startēšanas sistēmai ir savi slāņi jeb “enkuri”, kā to teica Sakawa.
Pirmais enkura fakts pārbauda LLM reakciju, salīdzinot ar pārbaudāmiem avotiem. Pēc tam otrais enkurs pārbauda, vai izvade pārkāpj kādus noteikumus, piemēram, ASV veselības aizsardzības likumu HIPAA, Eiropas tālejošo datu aizsardzības un privātuma likumu GDPR, vai arī tas atklāj kādu personas privāto informāciju (PII). Pēdējais enkurs ir audita izsekojamība, kas parāda, kā tika pieņemti visi iepriekšējie lēmumi, un ļauj regulatoriem vai ikvienam, kas veic sistēmas auditu, “analizēt šī modeļa domu gājienu, no kurienes tika pieņemts lēmums par šī lēmuma avotu, visu šo lēmumu ticamības rādītāju”, norāda Sakawa.
Skaidrības labad Sakava teica, ka Elloe AI nav veidota uz LLM, jo, pēc viņa domām, tas, ka LLM pārbauda citus LLM, ir tikai “joslas atbalsta ievietošana citā brūcē”. Tomēr Elloe AI sistēma izmanto AI metodes, piemēram, mašīnmācīšanos. Sakawa sacīja, ka ir arī cilvēki: Elloe AI darbinieki, kuri seko līdzi jaunajiem datu aizsardzības un lietotāju aizsardzības noteikumiem.
Techcrunch pasākums
Sanfrancisko
|
2025. gada 27.–29. oktobris
Ja vēlaties uzzināt vairāk par Elloe AI, vienlaikus izpētot desmitiem citu uzņēmumu, klausīties to prezentācijas un klausīties vieslektorus uz četrām dažādām skatuvēm, pievienojieties mums Disrupt no 27. līdz 29. oktobrim Sanfrancisko. Uzziniet vairāk šeit.
