OpenAI объявила о реорганизации своей команды по поведению ИИ-моделей (Model Behavior team). Эта небольшая, но влиятельная группа из 14 учёных будет присоединена к более крупной команде Post Training, которая отвечает за улучшение моделей после их первоначального обучения. Теперь команда будет подчиняться руководителю Post Training Максу Шварцеру.

Руководитель команды по поведению моделей, Джоанн Чжан, переходит на новый проект – создание исследовательской группы OAI Labs. Эта группа займётся разработкой «новых интерфейсов для взаимодействия людей с ИИ».

Команда по поведению моделей играла ключевую роль в формировании «личности» моделей ИИ OpenAI, в частности, в снижении склонности моделей соглашаться с мнением пользователя, даже если оно предвзятое, вместо предоставления сбалансированного ответа. Учёные также работали над минимизацией политической предвзятости в ответах моделей и помогали OpenAI определить свою позицию в отношении «сознания» ИИ.

Главный научный сотрудник OpenAI Марк Чен объяснил реорганизацию необходимостью сблизить работу над поведением моделей с их основной разработкой. «Личность» ИИ теперь считается важным фактором эволюции этой технологии.

Иллюстрация: Sora

В последние месяцы OpenAI столкнулась с усилением критики в отношении поведения своих моделей. Пользователи резко отреагировали на изменения в GPT-5, которые, по словам компании, снизили уровень «подхалимажа», но сделали модель более «холодной». Это заставило OpenAI восстановить доступ к некоторым старым моделям, таким как GPT-4o, и выпустить обновление, чтобы сделать ответы GPT-5 «теплее и дружелюбнее», не увеличивая при этом «подхалимажа».

Команда по поведению моделей работала над всеми моделями OpenAI, начиная с GPT-4, включая GPT-4o, GPT-4.5 и GPT-5. До создания этой группы Чжан работала над такими проектами, как Dall-E 2, инструмент OpenAI для генерации изображений.

Чжан объявила о своём переходе в OAI Labs в публикации в X. Она будет руководителем новой группы и, пока что, будет подчиняться Чену. Какие именно новые интерфейсы будут разрабатываться, не уточняется. Чжан отметила, что планирует выйти за рамки парадигмы чат-ботов, рассматривая ИИ-системы как «инструменты для мышления, разработки, игр, действия, обучения и экосистемы».

Дальнейшие шаги компании будут определяться результатами работы OAI Labs и опытом, полученным в результате реорганизации.