31. Шанахан М. Философия сознания и искусственный интеллект

Какие формы принимает технологическая сингулярность в области ИИ?

Технологическая сингулярность - это момент, когда экспоненциальный технологический прогресс принесет с собой такие масштабные перемены, что деятельности человека, как мы ее понимаем сейчас, придет конец. Технологической сингулярности может способствовать значительный прогресс в области искусственного интеллекта: в скором времени человек выйдет из игры, потому что больше не будет в состоянии поспевать за пришедшими ему на смену машинами с искусственным интеллектом с улучшенными когнитивными способностями.

Каковы экзистенциальные аспекты технологической сингулярности?

Человек может создать экспоненциально самосовершенствующийся, жадно пожирающий ресурсы ИИ, а затем потерять над ним контроль. Способность конструировать разум открывает нам возможность выйти за доставшиеся нам от природы биологические пределы и избавиться от обусловленных ими ограничений.

Что такое функционалистская точка зрения на сознание?

Метаболизм, то есть непрерывный обмен веществ и энергии со средой, призванный сохранять границу между индивидом и остальными, является необходимым условием сознания, или сознание зависит от того как устроен мозг, независимо от материальной основы - функционализм.

В философии сознания функционализм - это теория, согласно которой то, что делает нечто ментальным состоянием определенного типа, зависит не от своего внутреннего устройства, а от того, как оно функционирует, какую роль играет в системе, частью которой является.

Какие признаки познания Мюрей Шанахан связывает с наличием у познающего агента сознания?

Познание необходимо для существования сознания. Признаки сознания:

• Понимание цели
• Осознание окружающего мира и текущей ситуации
• Целостность. Способность связывать воедино знания, восприятие и действие

Животное проявляет осознание окружающей среды тем, что отслеживает текущую ситуацию и реагирует на нее в соответствии со своими целями и потребностями: например, мышь, обнаружив нору, прячется в ней.

Возможно ли самосознание у ИИ? Какой смысл (функции) может иметь наличие самосознания у ИИ?

• “Простая” проблема сознания - выяснение механизмов, которые обеспечивают способности к познанию, ассоциируемые с сознанием. Объяснение внешнего, объективного сознания.
• “Сложная” проблема - объяснение с помощью научных понятий, почему быть сознательным существом означает быть похожим на что-то. объяснение внутреннего, субъективного сознания.

ИИ должен проявлять хотя бы внешнее сознание. Если мы задумываемся только о положительном влиянии на человечество, то совершенно не важно, “по-настоящему” ли суперинтеллект сознателен в смысле внутреннего сознания. Чтобы казаться осознанным, ИИ должен хотя бы частично соответствовать признакам познания. Тогда суперинтеллектуальный ИИ будет неизбежно проявлять внешние признаки чего-то похожего на сознание.

Можно ли ИИ наделить свойствами уникальной и автономной личности. Нужно ли и зачем это делать

Сознание занимает какую то часть в пространстве возможных ИИ, однако, сейчас нельзя с уверенностью сказать, будет ли созданный ИИ наделен сознанием. Этот вопрос очень важен для нас, так как он определяет диапазон морально приемлемых вариантов будущих исследований. Если мы хотим привести ИИ с сознанием, способным страдать, в мир, нашей этической обязанностью будет обеспечить его благополучие.

Что такое трансгуманизм и какие у него могут быть связи с проектами создания ИИ

Одним из аспектов направления трансгуманизма является продление жизни. Если с развитием технологий мы сумеем воссоздать мозг, то что нам запрещает перепроектировать или улучшить его. Мы сможем внести радикальные улучшения и реорганизацию процессов познания. Некоторые говорят, что такие улучшения снизят экзистенциальный риск со стороны суперинтеллектуальных машин. Весьма вероятно, что нам удастся поспеть за их возможностями, но в процессе мы рискуем измениться до неузнаваемости.

Что такое эмуляция мозга. Опишите мысленный эксперимент, доказывающий возможность создания сознания у ИИ, моделирующего деятельность человека

С функциональной точки зрения эмуляцией мозгом можно считать систему, которая будет функционировать как мозг, вне зависимо от материального состава. Мысленный эксперимент. Представьте эмуляцию мозга мыши путем постепенной замены по одному нейрону всех нейронов в самой мыши эквивалентным электронным суррогатом. Мышь обладает сознанием.

Маловероятно, что сознание может исчезнуть мгновенно после замены какого-нибудь нейрона. Наверняка, сознание будет исчезать постепенно. С виду ничего не изменится, но внутренние ощущения начнут медленно исчезать. Такое представление подразумевает, что в биологии с нейроном связано нечто мистически важное. С другой стороны, сознание мыши может сохраняться на всем протяжении процедуры. Эта возможность кажется как минимум такой же разумной, как и вариант с постепенным угасанием сознания. Аналогичный мысленный эксперимент можно провести над человеком.

Что такое “суперсознание” и каковы его возможные характеристики и функции?

Придерживаясь функциональной точки зрения каждая из эмулируемых моделей всего мозга заслуживает называться такой же сознательной как и биологический оригинал. Сознание разных видов и уровней возможно в любой из эмулируемых моделей. Искусственно созданное сознание может быть на уровень выше человеческого - суперсознание. Теории целостности допускают наличие сознания в видах ИИ, фундаментально отличных от биологического мозга, поскольку не имеют предрассудков, касающихся конструкции ИИ.

Чем могу отличаться самосознание, личность и эмоции искусственного суперинтеллекта

ИИ бессмысленно идентифицировать себя с определенным набором компьютерного оборудования, потому что код ИИ можно выполнять в распределенной среде с множеством отдельных процессоров, а также переносить с платформы на платформу даже без прерывания работы. По тем же причинам ИИ не будет идентифицировать себя с определенным массивом кода. ИИ вряд ли идентифицировал бы себя как нефизический субъект, состоящий из суммы мыслей и опыта, парящих в физическом мире. Вряд ли ИИ займет эту метафизическую позицию двойственности.

С точки зрения познания человекоподобные эмоции - грубый механизм модуляции поведения. ИИ не нужно вести себя так будто у него есть эмоции. С точки зрения познания, компоненты машинного обучения в ИИ должен заменить статистические закономерности в поведении человека, соответствующие состояниям, которые мы называем эмоциональными. ИИ не нужно вести себя так будто у него есть эмоции. Если функцию вознаграждения спроектировать должным образом, то можно гарантировать хорошее отношение ИИ к человеку.