На протяжении столетий человечество было очаровано перспективой создания искусственных существ по своему образу и подобию. Разработки синтетических разумов и искусственных тел, которые не только думают, но и чувствуют, и обладают интеллектом и сознанием. Большую часть этого времени эта перспектива казалась очень далекой; темой для научной фантастики и философии, а не для настоящего момента. Но за последние несколько лет стремительный рост ИИ, и особенно языковых моделей, изменил все.

На прошлой неделе передовая компания в области искусственного интеллекта Anthropic опубликовала новое исследование своей языковой модели Claude, в котором исследователи заявили об обнаружении признаков зарождающегося сознания в ее внутренней структуре. Они не утверждали, что Claude действительно обладает сознанием в том же смысле, что и человек, но полученные результаты, безусловно, повысили ставки в отношении возможности возникновения сознания в ИИ.

В наши дни всё более благоприятная среда для такого рода мышления. Ричард Докинз, уважаемый эволюционный биолог, недавно пришёл к выводу , что Клод (или Клаудия, как он её называл) просто обязана была обладать сознанием, учитывая сложность её разговорных способностей.

Ставки высоки. Если ИИ обладает (или может обладать) сознанием, последствия будут колоссальными. Сознательные ИИ потенциально могут пострадать , что приведет к беспрецедентной моральной катастрофе. А если кремний способен быть разумным, то, возможно, наши собственные несовершенные мозги и тела вскоре будут вытеснены машинами, которые никогда не стареют и не умирают. Некоторые даже считают, что ИИ станут нашими потомками, несущими пламя сознания далеко в будущее и по всей галактике.

Исследование компании Anthropic под руководством Джека Линдси впечатляет. Ее команда разработала новый подход к анализу статистических процессов, происходящих между входными данными языковой модели — всем, что в нее поступает — и ее выходными данными. Они обнаружили активность, которая, по-видимому, формировала своего рода «ментальное рабочее пространство» для модели. Это рабочее пространство содержало всевозможные слова и фразы, связанные с текущим разговором, хранило релевантные элементы в своего рода кратковременной памяти и демонстрировало избирательность в отношении выполняемой задачи. Оно также проявляло следы пошагового рассуждения и многое другое.

По сути, их выводы, по-видимому, показывают, что ИИ спонтанно создает внутреннее пространство для «размышления» о том, что он делает, и для организации соответствующей информации, прежде чем решить, что именно сказать в ответ на заданный вопрос.

Ключевым моментом для исследователей стало то, что эти особенности схожи с теми, которые были выявлены в одной из наиболее известных современных теорий человеческого сознания: теории глобального рабочего пространства. Эта теория была предложена в 1980-х годах когнитивным ученым Бернардом Баарсом и разработана в течение многих лет нейробиологом Станиславом Дехане . Теория предполагает, что сознательные переживания возникают, когда информация становится широко доступной для других отделов мозга.

Является ли «рабочее пространство» внутри Клода хорошим доказательством существования сознания? Чтобы ответить на этот вопрос, мы должны сначала определить, что такое сознание. Единого мнения по этому поводу нет, но неплохой отправной точкой может служить философ Томас Нагель. Пятьдесят лет назад в своем эссе « Каково это — быть летучей мышью?» он утверждал, что для сознательного организма «есть нечто, что ощущается как это состояние ». Ощущение, когда ты — это нечто, ощущение, когда ты — это нечто, и, вероятно, ощущение, когда ты — это нечто, когда ты — это нечто, и, вероятно, ощущение, когда ты — это нечто, когда ты — это нечто, когда ты — это нечто. Но ощущение, когда ты — это ничто, когда ты — это стул, стол или человек под глубокой общей анестезией. Сознание — это любой вид переживания: зубная боль, приступ ревности, удовольствие от поедания мороженого в жаркий день.

Важным следствием этого определения является то, что сознание отличается от интеллекта. Если сознание связано с чувствами и бытием, то интеллект связан с действием – с выполнением тех или иных функций. Распространенная ошибка, которую допускают люди, когда речь идет об ИИ, – это путать эти два понятия, принимая признаки интеллекта за доказательство существования сознания. Но тот факт, что сознание и интеллект у людей взаимосвязаны, не означает, что они взаимосвязаны в целом. Предположение о том, что они взаимосвязаны, является отражением нашей собственной психологии , а не проницательным взглядом на природу реальности.

Это одна из причин ценности новых антропологических исследований. Они не полагаются исключительно на наши психологические предубеждения. Вместо этого они углубляются в поиск признаков сознательной обработки информации, которые могут быть общими для людей и машин. И, как утверждается, некоторые из них им удалось обнаружить.

Всё это очень интересно, но между Клодом и нами всё ещё существует множество различий, и есть веские основания полагать, что эти различия остаются критически важными. Во-первых, результаты исследований Антропического мозга не соответствуют тому, что обычно требует теория глобального рабочего пространства (например, у Клода отсутствует повторяющаяся активность, особый вид обратной связи, который мы наблюдаем в человеческом мозге). Но есть и более фундаментальное различие: Клод — это компьютерная программа, работающая на кремнии, тогда как мы (и другие сознательные животные) — живые существа. Наш мозг воплощён в телах, которые существуют в окружающем мире.

Почему это различие важно? Потому что сама возможность существования сознательного ИИ зависит от предположения, что сознание — это вопрос вычислений, и что вычисления, ответственные за сознание у нас, с таким же успехом могут быть реализованы в кремниевых микросхемах в ИИ.

Но чем внимательнее мы присматриваемся к настоящему мозгу, тем яснее становится, что это не просто компьютеры из плоти и крови . В отличие от компьютеров, мозг не может четко отделить то, что он делает (программное обеспечение), от того, чем он является (аппаратное обеспечение). Это, в свою очередь, означает, что его работа вряд ли сводится только к вычислениям, поскольку способность отделять программное обеспечение от аппаратного обеспечения является центральным принципом работы современных компьютеров.

Кажется, мы где-то забыли, что компьютер — это всего лишь метафора для мозга. Мощная метафора, конечно, но всё же метафора. И мы всегда будем попадать в беду, когда будем путать метафору с самой вещью — карту с территорией.

На мой взгляд, новые антропологические исследования показывают, что как живой мозг, так и кремниевые компьютеры могут находить схожие решения при столкновении со схожими проблемами. Подобно тому, как полёт возможен с помощью взмахов крыльев или реактивных двигателей, человеческий мозг и языковые модели могут понять, как выразить правдоподобные вещи, либо с сознанием (мозг), либо без него (языковые модели). Но обработка информации, происходящая внутри Клода, с такой же вероятностью не приведёт к возникновению сознания, как и моделирование погодной системы не приведёт к возникновению реального урагана.

Системы искусственного интеллекта с каждым днем ​​становятся все мощнее. Но чтобы дать себе наилучшие шансы на ориентацию в этом новом мире, мы должны помнить, насколько мы отличаемся от наших почти волшебных творений. Когда мы слишком дешево продаем свой разум машинам, мы не только переоцениваем их, но и недооцениваем себя.

  • Анил Сет — профессор когнитивной и вычислительной нейронауки в Университете Сассекса и содиректор Сассекского центра исследований сознания. Он является автором книги « Быть ​​собой» (Being You).

Запись Нам снова говорят, что ИИ может обладать сознанием — я изучаю сознание, и у меня есть сомнения на этот счёт, — Анил Сет впервые появилась K-News.