Sākot sarunu ar Chatgpt, ekrāna apakšā jūs varētu pamanīt kādu tekstu: “Chatgpt var pieļaut kļūdas. Pārbaudiet svarīgu informāciju.” Tas joprojām notiek ar jauno GPT-5 modeli, vecākais Openai izpilddirektors atkārtoja šonedēļ.
“Tomēr ar ticamību ir tā, ka pastāv cieša pārtraukšana starp ļoti uzticamu un 100 procentiem uzticamu, ņemot vērā produktu,” Niks Turlijs, Chatgpt Openai vadītājs, sacīja Verge dekodētāja aplādeApvidū “Kamēr es nedomāju, ka mēs esam pierādāmi uzticamāki nekā cilvēku eksperti visās jomās, ne tikai dažās jomās, es domāju, ka mēs turpināsim jums ieteikt vēlreiz pārbaudīt savu atbildi.”
Tas ir kaut kas, ko mēs jau ilgu laiku esam ieteikuši par tērzēšanas robotiem, tagad visā mūsu AI pārklājumā. Openai arī daraApvidū
Vienmēr divreiz pārbaudiet. Vienmēr pārbaudiet. Lai arī tērzēšanas robots varētu būt noderīgs dažiem uzdevumiem, tas varētu arī pilnībā veidot lietas.
Tērlijs cer uz uzlabojumiem šajā frontē.
“Es domāju, ka cilvēki turpinās izmantot Chatgpt kā otro viedokli, salīdzinot ar viņu galveno faktu avotu,” viņš teica.
Problēma ir tā, ka patiešām ir vilinoši veikt tērzēšanas robota atbildi – vai AI pārskatu Google meklēšanas rezultātos – pēc nominālvērtības. Guess ģeneratīvajiem AI rīkiem (ne tikai chatgpt) ir tendence “halucināt” vai arī veidot lietas. Viņi to dara tāpēc, ka viņi galvenokārt ir būvēti, lai prognozētu, kāda būs atbilde uz vaicājumu, pamatojoties uz viņu apmācības datiem atrasto informāciju. Guess Gen AI modeļiem nav konkrētas izpratnes par patiesību. Ja jūs runājat ar ārstu, terapeitu vai finanšu konsultantu, šai personai vajadzētu būt iespējai sniegt jums pareizo atbildi par jūsu situāciju, ne tikai visticamāko. AI lielākoties sniedz jums, visticamāk, ir pareiza atbilde – bez īpašas zināšanas par jomu, lai pārbaudītu.
Kaut arī AI diezgan labi uzminē, tas lielākoties joprojām ir tikai uzminēt. Tērlijs atzina, ka rīks vislabāk rīkojas, ja tas ir savienots pārī ar kaut ko, kas labāk izprot faktus, piemēram, tradicionālo meklētājprogrammu vai uzņēmuma specifiskos iekšējos datus. “Es joprojām uzskatu, ka, nav šaubu, pareizais produkts ir LLMS, kas savienots ar zemes patiesību, un tāpēc mēs meklējām meklēšanu Chatgpt, un es domāju, ka tas rada milzīgas atšķirības,” viņš teica.
(Informācijas atklāšana: CNET mātesuzņēmums Zifs Deiviss aprīlī iesniedza tiesas procesu pret Openai, apgalvojot, ka tas pārkāpj Ziff Davis autortiesības apmācībā un darbībā tās AI sistēmās.)
Negaidiet, ka Chatgpt vēl viss būs kārtībā
Tērlijs sacīja, ka GPT-5, jaunākais lielās valodas modelis, kas ir pakļauts Chatgpt, ir “milzīgs uzlabojums” halucinācijas ziņā, taču tas joprojām ir tālu no perfekta. “Esmu pārliecināts, ka galu galā mēs atrisināsim halucinācijas un esmu pārliecināts, ka nākamajā ceturksnī to nedarīsim,” viņš teica.
Pārbaudot GPT-5, esmu redzējis, ka tas jau ir izdarījis dažas kļūdas. Pārbaudot jaunās valodas modeļa personības, tas apjuka par koledžas futbola grafiku un sacīja, ka visas rudens spēles notiks septembrī.
Pārliecinieties, ka pārbaudāt visu informāciju, ko saņemat no tērzēšanas robota, pret kādu uzticamu patiesības avotu. Tas varētu būt tāds eksperts kā ārsts vai uzticams avots internetā. Un pat tad, ja tērzēšanas robots sniedz jums informāciju ar saiti uz avotu, neuzticieties, ka robots precīzi apkopo šo avotu. Iespējams, ka tas ir aizrāvis faktus, dodoties uz jums.
Ja jūs gatavojaties pieņemt lēmumu par informāciju, ja vien jums pilnīgi nav vienalga par pareizo izdarīšanu, pārbaudiet to, ko AI jums saka.
