Openai reorganizē savu modeļa uzvedības komandu – nelielu, wager ietekmīgu pētnieku grupu, kas veido to, kā uzņēmuma AI modeļi mijiedarbojas ar cilvēkiem, ir iemācījusies TechCrunch.
Augusta piezīmē personālam, kuru redz TechCrunch, Openai galvenais pētījumu inspektors Marks Čens sacīja, ka modeļa uzvedības komanda-kas sastāv no aptuveni 14 pētniekiem-pievienosies pēcapmācības komandai-lielai pētniecības grupai, kas ir atbildīga par uzņēmuma AI modeļu uzlabošanu pēc viņu sākotnējās pirmās apmācības.
Izmaiņu ietvaros modeļa uzvedības komanda tagad ziņos Openai pēcapmācības vadošajam Maksam Schwarzeram. Openai pārstāvis apstiprināja šīs izmaiņas TechCrunch.
Modeļa uzvedības komandas dibinātāja Joanne Jang arī turpina sākt jaunu projektu uzņēmumā. Intervijā ar TechCrunch Jang saka, ka viņa veido jaunu pētījumu komandu ar nosaukumu OAI Labs, kas būs atbildīga par “jaunu saskarņu izgudrošanu un prototipēšanu, kā cilvēki sadarbojas ar AI”.
Modeļa uzvedības komanda ir kļuvusi par vienu no Openai galvenajām pētniecības grupām, kas ir atbildīga par uzņēmuma AI modeļu personības veidošanu un par sicofantijas samazināšanu – kas notiek, ja AI modeļi vienkārši piekrīt un pastiprināt lietotāju uzskatus, pat neveselīgas, nevis piedāvāt līdzsvarotas atbildes. Komanda ir arī strādājusi pie politiskās aizsprieduma navigācijas modeļa atbildēs un palīdzējusi Openai definēt savu nostāju AI apziņaApvidū
Personāla piezīmē Čens sacīja, ka tagad ir pienācis laiks tuvināt Openai modeļa uzvedības komandas darbu tuvāk pamata modeļa izstrādei. To darot, uzņēmums signalizē, ka tās AI “personība” tagad tiek uzskatīta par kritisku faktoru, kā attīstās tehnoloģija.
Pēdējos mēnešos Openai ir saskārusies ar pastiprinātu pārbaudi par savu AI modeļu izturēšanos. Lietotāji stingri iebilda pret personības izmaiņām, kas veiktas uz GPT-5, kuras uzņēmums sacīja, ka ir zemāks sinofances līmenis, wager dažiem lietotājiem šķita vēsāks. Tas lika Openai atjaunot piekļuvi dažiem saviem mantotajiem modeļiem, piemēram, GPT-4O, un atbrīvot atjauninājumu, lai jaunākās GPT-5 atbildes justos “siltākas un draudzīgākas”, nepalielinot sycophancy.
TechCrunch pasākums
Sanfrancisko
|
2025. gada 27.-29. Oktobris
Openai un visiem AI modeļa izstrādātājiem ir jānoiet smalka līnija, lai viņu AI tērzēšanas roboti būtu draudzīgi sarunāties, wager ne sycophantic. Augustā 16 gadus veca zēna vecāki iesūdzēt tiesā Openai pār Chatgpt iespējamo lomu viņu dēla pašnāvībā. Zēns Ādams Rainss uzticēja dažas no savām pašnāvības domām un plāno ChatGpt (īpaši versija, kuru darbina GPT-4O), liecina tiesas dokumenti, mēnešos pirms viņa nāves. Tiesas prāvā tiek apgalvots, ka GPT-4O neizdevās atgriezties viņa pašnāvības idejās. Proti, modeļa uzvedības komanda neeksistēja, kad tika izstrādāta GPT-4O.
Jangs paziņoja a Ievietojiet uz x Pagājušajā nedēļā, kad viņa pamet komandu, lai “sāktu kaut ko jaunu Openai”. Bijušais modeļa uzvedības vadītājs ir bijis Openai gandrīz četrus gadus un iepriekš strādāja pie tādiem projektiem kā Dall-E 2, Openai agrīnās attēlu ģenerēšanas rīks.
Janga sacīja TechCrunch, ka viņa darbosies kā Oai Labs ģenerāldirektore, kas pagaidām ziņos Čenam. Tomēr ir agras dienas, un vēl nav skaidrs, kādas būs šīs jaunās saskarnes, viņa sacīja.
“Es ļoti priecājos izpētīt modeļus, kas mūs virza ārpus tērzēšanas paradigmas, kas šobrīd vairāk ir saistīta ar biedrību vai pat aģentiem, kur tiek uzsvērta autonomija,” sacīja Jangs. “Es esmu domājis [AI systems] kā instrumenti domāšanas, veidošanas, spēlēšanas, darīšanas, mācīšanās un savienošanai. ”
Jautāts, vai OAI labor tagad darbojas Ar Openai AI aparatūras ierīču ģimenē – Jang teica, ka viņa ir atvērta daudzām idejām. Tomēr Janga sacīja, ka viņa, iespējams, sāksies ar pētniecības jomām, kuras viņa vairāk pazīst.
