OpenAI считает, что грядет сверхчеловеческий ИИ

В то время как инвесторы готовились перейти к ядерной программе после бесцеремонного изгнания Сэма Альтмана из OpenAI, а Альтман планировал свое возвращение в компанию, члены команды OpenAI по вышестоящему управлению усердно работали над проблемой того, как контролировать ИИ, который умнее человека.

В июле OpenAI сформировала команду Superalignment для разработки способов управления “сверхразумными” системами ИИ, то есть теоретическими системами, интеллект которых намного превосходит человеческий.

“Сегодня мы в принципе можем создавать модели, которые глупее нас или, возможно, на уровне человека, самое большее”, - сказал Бернс. “Согласование модели, которая на самом деле умнее нас, гораздо, гораздо менее очевидно — как мы вообще можем это сделать?

”Усилия по объединению возглавляет соучредитель OpenAI и главный научный сотрудник Илья Суцкевер, которые не вызвали удивления в июле, но, безусловно, вызывают сейчас в свете того факта, что Суцкевер был среди тех, кто изначально настаивал на увольнении Альтмана. В то время как некоторые отчеты предполагают, что Суцкевер находится в “подвешенном состоянии” после возвращения Альтмана, пиарщик OpenAI сообщает мне, что Суцкевер действительно — по крайней мере, на сегодняшний день — все еще возглавляет команду Superalignment.

“Сегодня мы в принципе можем создавать модели, которые глупее нас или, возможно, на уровне человека, самое большее”, - сказал Бернс.

“Согласование модели, которая на самом деле умнее нас, гораздо, гораздо менее очевидно — как мы вообще можем это сделать?” Усилия по объединению возглавляет соучредитель OpenAI и главный научный сотрудник Илья Суцкевер, которые не вызвали удивления в июле, но, безусловно, вызывают сейчас в свете того факта, что Суцкевер был среди тех, кто изначально настаивал на увольнении Альтмана.

В то время как некоторые отчеты предполагают, что Суцкевер находится в “подвешенном состоянии” после возвращения Альтмана, пиарщик OpenAI сообщает мне, что Суцкевер действительно — по крайней мере, на сегодняшний день — все еще возглавляет команду Superalignment. Совмещение - довольно щекотливая тема в сообществе исследователей ИИ. Некоторые утверждают, что подполе преждевременно; другие подразумевают, что это отвлекающий маневр.

В настоящее время команда Superalignment пытается создать структуры управления, которые могли бы хорошо применяться к будущим мощным системам искусственного интеллекта. Это непростая задача, учитывая, что определение “сверхразума” — и достигла ли этого конкретная система ИИ - является предметом ожесточенных дебатов. Но подход, на котором остановилась команда, на данный момент предполагает использование более слабой, менее сложной модели ИИ (например, GPT-2) для направления более продвинутой, сложной модели (GPT-4) в желаемых направлениях - и в сторону от нежелательных.