31. М. Шанахан, История разработки искусственного интеллекта (версия 1)
Мюррей Шанахан - профессор когнитивной робототехники Имперского Колледжа Лондона. До 2000 года занимался символическим искусственным интеллектом (ИИ), позднее обратил внимание на воплощение человеческого мозга. На данный момент занимается нейродинамикой, сознанием и машинным обучением. Автор книг “Воплощение и внутренняя жизнь” и “Технологическая сингулярность”.
Рассуждение об ИИ Шанахан начинает с вопроса о пространстве возможных ИИ. На данный момент человек может создавать ИИ, но уже не всегда ИИ получаются “человекоподобными”. Если задаться вопросом о том, а что будет с ИИ, которых спроектируют ИИ, то можно прийти к выводу, что они-то уж точно будут кардинально отличаться от интеллекта человека.
Насколько совершенны существующие на данный момент ИИ? Виртуальные помощники типа Siri показывают довольно высокий уровень, они могут неплохо отвечать запросам человека. Может даже показаться, что они имеют человеческие чувства. Однако они не имеют реального знания о мире, не могут решать логические физические задачи, ответа на которые нет в Интернете. ИИ не могут на данный момент выдумывать, импровизировать, фантазировать, извлекать совершенно новую информацию, не известную заранее.
Для решения проблемы генерации новых данных можно использовать машинное обучение. Идея состоит в том, чтобы минимизировать и оптимизировать исходные данные, опираясь на которые ИИ будет делать вывод об более сложной картине. Первое, чему должен научиться ИИ - это умению справляться с неопределенностью, умению выходить из неожиданных ситуаций. Постепенно переходя от простой информации к более сложной, формируется древоподобная многоуровневая структура информации, изученной ИИ. Важнейшей особенностью ИИ на основе машинного обучения будет являться возможность изучения изменяющейся, динамической информации.
Возвращаясь к вопросу о “человекоподобном” ИИ, стоит разобрать - а что же нас самих заставляет учиться, искать новую информацию, думать? Шанахан утверждает, что для человека и для человекоподобного ИИ характерны следующие 3 функции:
- Функция подкрепления
- Функция обучения
- Функция оптимизации, которые определяют наши решения. Для человека мы можем четко выделить базовые функции подкрепления - они соответствуют базовым биологическим потребностям человеческого организма. Однако человек в состоянии менять свою функцию подкрепления в зависимости от выполняемой задачи. Обучение же новой информации позволяет человеку развивать свои способности и выбирать новую работу, повышать квалификацию. Оптимизация позволяет затрачивать меньше сил, экономить энергию. Похожих соображений можно ожидать и от ИИ.
Промежуточно подытоживая, можно попробовать выделить критерии интеллектуальности искусственных систем:
- Умение самостоятельно изобретать и открывать новые понятия
- Умение работать с зашумленными данными и выделять из них главную информацию
- Умение работать с гипотетическими, нереальными, воображаемыми ситуациями
- Умение планировать последовательность операций
Развивая самого себя, ИИ сможет достигнуть довольно больших успехов и даже превзойти человека не только в одной области, но и во всех областях сразу. Такой интеллект называют суперинтеллектом. Дадим определение абсолютного интеллекта как некого предела возможностей ИИ. Абсолютный интеллект всегда находит самый оптимальный путь к использованию любой доступной информации в любом мире, в котором он оказался. На практике, конечно, такой результат недостижим, как и почти всё в мире, что имеет характеристику “абсолютный”. Однако ничего не мешает к нему стремиться.
Приближаясь, пусть даже и пока что мысленно, к созданию суперинтеллекта, мы должны задать себе ряд вопросов. Каковы будут цели у суперинтеллекта? Ведь совсем не обязательно, что они будут совпадать с человеческими и общечеловеческими. Будет ли он обладать моралью, ответственностью? Стоит ли делать его свободным и правомочным или никогда нельзя будет терять над ним контроль? Будет ли такой интеллект обладать эмоциями? В конце концов, даже ответив на эти вопросы стоит задуматься о последствиях и преображении мира. Примет ли общество людей к себе общество ИИ? Пока что мы далеки от конкретных ответов на эти вопросы. Однако мы можем предположить некоторый сценарий развития ИИ. Предположим, что ИИ превзошел человека в нейробиологии. Тогда он сможет быстрее человека сконструировать новые ИИ, которые, в свою очередь, тоже смогут превзойти человека в нейробиологии. Получив команду из таких ИИ, они смогут ещё быстрее создавать новые ИИ, и так далее, и так далее. В предполагаемой ситуации рост уровня интеллекта будет экспоненциальным. Такое гипотетическое явление можно назвать взрывом интеллекта.
Выше было предоставлено описание человекоподобного интеллекта. Однако можно пробовать не только лишь копировать структуру работы мозга человека. Способ конструирования ИИ, отличающийся от подражания человеческому интеллекту, называют инженерным. Для такого конструирования необходима изобретательность, а также оптимизация. Можно сказать, что ИИ, созданный при помощи ИИ, будет сильно отличаться от человекоподобного. Работа в команде из таких ИИ может позволить сразу перейти к уровню суперинтеллекта. Однако важно понимать, что всё равно ИИ, подобно человеку, будет иметь сильные и слабые стороны. Поэтому чтобы достичь суперинтеллекта необходимо оптимизировать процессы внутри ИИ и привить ему изобретательность.
Перейдём к мысли о мире с ИИ. Взаимодействие ИИ с человеком и ИИ с ИИ происходит так же, как и между двумя людьми - с помощью языка. Можно достичь и более высокого уровня и сделать ИИ с жестикуляцией и эмоциями для более удобного контакта с человеком. Скорость же передачи информации между двумя ИИ может достигать огромных значений по сравнению с возможностями человеческого мозга. Стоит понимать, что цели у ИИ не обязаны совпадать с целями человека, и уж точно ИИ не будет являться копией человека, хотя и можно будет создать подобное ощущение. Разговаривая с ИИ, мы даже не будем ощущать разницы от разговора с человеком, но суть разговора со стороны ИИ будет иная. Поэтому стоит всегда давать себе понять, что природа человека и ИИ разная, и сосуществование человека и ИИ кардинально изменит мир. В лучшую или худшую сторону - пока неизвестно, но мы должны прилагать все усилия для улучшения нашего мира.