Что будет, если искусственный интеллект станет умнее человека

В далеком 1993 году ученый-компьютерщик и фантаст Вернор Виндж провидчески предсказал появление интеллекта, который превзойдет человеческий в течение ближайших тридцати лет, заявив:

— Вскоре после этого завершится эпоха человека.

Три десятилетия спустя концепция интеллекта, равного или превосходящего человеческий, перешла из мира фантастики в сферу научных исследований и технологий. Тысячи специалистов и инвесторов в области искусственного интеллекта сосредоточены на создании так называемого искусственного общего интеллекта (AGI), способного решать задачи на уровне человеческого разума. Некоторые ученые предостерегают, что успешное создание AGI может ускорить конец человеческой эпохи в довольно скоро.

Сверхчеловеческий интеллект: будущее под угрозой?

Футурологи отдают должное Виндже за популяризацию идеи «Сингулярности» — создания разума, который переступит грани человеческого понимания. Внедрение такого интеллекта может радикально изменить мир, что, по словам Винджа, станет «переломом, сравнимым с возникновением человеческой жизни на Земле».

Однако Виндж считал, что сингулярность может прийти не только через мощный ИИ, но и через биотехнологические или электронные усовершенствования, которые сделают наш разум более быстрым и острым, комбинируя интуицию и креативность с технической мощью и доступом к безграничному океану информации. Например, современный смартфон — устройство, которое вызвало бы потрясение у гостя из 1993 года.

— Как только машины начинают выполнять научные и инженерные задачи, прогресс становится настолько стремительным, что за ним невозможно угнаться, — утверждает Роман Ямпольский, специалист по компьютерным наукам из Университета Луисвилля.

Он следит за тем как исследователи публикуют свои открытия с такой скоростью, что невозможно полностью осознать масштабы происходящего.

Что такое сверхчеловеческий интеллект? Виндж не указал единый путь к сингулярности, но эксперты видят в AGI один из его возможных путей через информатику. Другие же полагают, что это пустая терминология. Важнее всего, что AGI подразумевает способность решать задачи на уровне человека.

Создание AGI откроет путь к сверхчеловеческому интеллекту, который сможет делать открытия с небывалой скоростью, превосходя любого современного специалиста. Этот интеллект, возможно, создаст более продвинутые системы, что может привести к бурному росту возможностей, если верить некоторым исследователям.

Сингулярность ИИ: реальная угроза или научная фантастика?

Эта перспектива вызывает тревогу, так как полное понимание поведения ИИ остаётся недостижимым, и это может представлять угрозу, по мнению Ямпольского. Он предполагает, что мы никогда не осознаем всех нюансов ИИ, и без контроля последствия могут быть катастрофическими.

Проблема предвидения будущего — сложная задача, и среди исследователей царит разногласие. В опросе AI Impact в 2022 году среди 738 ученых 33% назвали Сингулярность «весьма вероятной», в то время как 47% сочли ее «весьма маловероятной».

Самир Сингх из Калифорнийского университета в Ирвине говорит о трудностях с определением и исследованием идей ИИ:

— С научной точки зрения это вызывает интерес, но в реальности всё может быть иначе, когда искусственный интеллект достигнет новых высот в самообучении.

Сингх также обеспокоен тем, что внимание к гипотетическому будущему отвлекает от текущих проблем, связанных с ИИ, включая расистские и сексистские проявления, а также нарушение авторских прав и конфиденциальности данных. Некоторые аналитики винят ИИ в потере рабочих мест.

Нужен ли нам AGI?

Реакция на перспективы развития искусственного интеллекта обнажает глубокие противоречия в сообществе, занимающемся созданием и контролем подобных систем. Пионеры компьютерной науки, такие как Джеффри Хинтон и Йошуа Бенжио, выражают обеспокоенность тем, что ситуация может выйти из-под контроля. Некоторые ученые даже призывают к полугодовому прекращению исследований и разработок новых систем ИИ, более мощных, чем GPT-4.

С другой стороны, сторонники агрессивного продвижения технологий утверждают, что временные остановки могут замедлить прогресс и лишить человечество возможностей, которые могут изменить жизнь. Они напоминают, что научно-технический прогресс всегда был сопряжён с рисками, но именно благодаря решительности и достижению новых рубежей человечество шагало вперёд. Такие позиции находят отклик среди инноваторов и предпринимателей, верящих в необходимость движения вперёд любой ценой.