Дмитрий Волков, основатель холдинга SDVentures, доктор философских наук, автор ряда работ по теории и философии сознания и сооснователь Московского центра исследования сознания, действующего при МГУ, рассказал участникам сессии LAKHTA VIEW о вопросах искусственного интеллекта, сознания и поделился своим видением того, как объединить в новой среде человека и сверхразум.
Машины, которые сегодня обладают некоторыми зачатками экспертных знаний в разных отраслях, со временем научатся мыслить и об общих вещах. Эти машины действительно через некоторое время будут более интеллектуальны, чем люди. Об этой возможности стали все больше говорить и философы (Ник Бостром, Рэймонд Курцвейл и другие), и даже те, кто занимается технологическими проекта, например, Илон Маск. Эти эксперты говорят, что сверхразум возможен, а искусственный интеллект – это путь к нему. Я отмечу возможные дороги, по которым мы можем прийти к сверхразуму.
Эмуляция головного мозга
Один из путей к сверхразуму – это эмуляция головного мозга. Мы знаем, что мозг – это колоссально сложный орган, состоящий из приблизительно 100 миллиардов нейронов. Эти нейроны соединены между собой гигантским количеством связей. Бесспорно, это сложнейшая структура, эмулировать которую очень сложно, однако сложно не значит невозможно. Первый способ, как мы можем это сделать, – воспользоваться такими машинами, как самый мощный китайский суперкомпьютер в мире Sunway TaihuLight. Второй способ – создать простую машину, которая сможет обучаться. Уже сейчас машины самообучаются. Если мы продолжим этот путь, мы придем к машинам, которые будут жить вместе с нами и развивать свой интеллект. Если этот тренд продолжать, то он будет развиваться не последовательно, а ускоряться все время. И так мы сможем прийти к интеллектуальной точке сингулярности (когда в конечное количество времени развитие интеллекта будет бесконечно). Если это действительно возможно, что это означает для нас?
Философы задаются вопросом, связаны ли наши конечные цели с интеллектом? Дело в том, что человеческие критерии интеллектуальности сложно применимы к искусственному интеллекту. Надо понимать, что искусственный интеллект не будет проходить эволюционный путь человека. Быть может, даже не существует связи между интеллектуальностью и конечными целям ИИ, то есть, возможно, машина, способная мыслить, будет иметь, с нашей точки зрения, совершенно абсурдные цели (например, высчитывать число Пи до бесконечности). Другими словами, конечная цель и интеллект могут быть не связаны, и эта мысль позволяет нам оставаться спокойными. Но есть и другой тезис, который заставляет волноваться, – тезис об инструментальной конвергенции. Он заключается в следующем: у разумных агентов может быть выделена некоторая группа инструментальных (промежуточных) целей (и ценностей), которые будут для всех их весьма схожими, и достижение которых будет повышать шансы агента на достижение любых конечных целей из широкого диапазона. То есть утверждается, что к этим промежуточным целям будут стремиться самые разнообразные разумные агенты. Некоторые философы считают, что у интеллекта могут быть разные конечные цели, но обязательно будут одинаковые инструментальные цели. Одна из обязательных целей – увеличение и сохранение своего интеллекта. Для достижения любой цели интеллекту нужно будет сохранить свою интеллектуальность, поэтому любой искусственный интеллект (даже если его цель абсурдна) прежде всего заинтересован в сохранении интеллектуальности. Помимо прочего, искусственному интеллекту понадобится технологическое развитие, и он все время будет совершенствовать себя с технологической точки зрения. Например, если речь о роботе, он будет стремиться получить большую степень свободы, больше возможностей передвигаться и так далее. Третья (самая тревожная) цель, которая будет у искусственного интеллекта, – это цель инструментальная, заключающаяся в контроле ресурсов. Именно эта инструментальная цель может оказаться губительной для человека. Даже если интеллект конечной целью ставит себе расчет числа Пи, то для ее реализации ему нужно будет контролировать все ресурсы (поэтому некоторые считают, что, захватывая ресурсы и пытаясь контролировать, искусственный интеллект, будут контролировать людей). Получается, человек и машина будут конкурировать за эти ресурсы. Эта мысль заставляет нас сомневаться, является ли создание умной машины хорошей идеей.
Из идеи о том, что машины могут мыслить, следует очень любопытный вывод: мы развиваемся так же, как и раньше – наращиваем технологическую мощь, узнаем больше о себе, создаем более производительные машины, которые играют все большую роль в нашей жизни, в будущем сможем научиться симулировать на компьютере различные явления. Поскольку производить машины при развитии технологического прогресса становится все дешевле, скорее всего искусственных агентов будет становиться больше. Если представить перспективу на сто тысяч лет вперед, то мы увидим, что этих искусственных интеллектов будет гораздо больше, чем биологических. Если этот путь возможен, то в будущем соотношение биологического интеллекта к искусственному будет составлять один к бесконечности. Интересная мысль: если такое положение вещей возможно для будущего, то оно актуально и для прошлого. И есть такая вероятность, что все, кто находится в этой аудитории, на самом деле являются искусственными агентами просто из математики, из соотношения биологического к искусственному. Парадоксальный вывод, который следует из вывода о том, что машины смогут мыслить, говорит нам, что на самом деле мы и есть эти машины.
Татьяна Черниговская, профессор СПбГУ, заведующая кафедрой проблем конвергенции естественных и гуманитарных наук, руководитель лаборатории когнитивных исследований, доктор филологических и биологических наук, известнейший российский ученый, занимающийся популяризацией науки. В своей лекции на LAKHTA VIEW Татьяна Черниговская рассказала о вопросах, занимающих человека, ответы на которые он пока не нашел.
Прогнозов очень много. Все они малоутешительные, но и малоценные, потому что мир меняется с такой скоростью, что смысла в прогнозах немного. Я считаю, что, если мы не разберемся со своим внутренним миром, будущего у нас нет. У нас должна быть опора, которая не даст нам внутренне разрушиться. Бессмысленно устраивать научные прорывы и производить чудесные механизмы, если впоследствии мы все тронемся умом. Сегодня обсуждается сюжеты на тему, не объявить ли пандемию психических болезней, и это не шутка. Количество людей с психическим расстройством растет. Так, самая простая статистика по США говорит о том, что психически нестабилен каждый шестой по стране.
Что может нас остановить?
Что может нас остановить? Запретить научный прогресс не получится: всегда найдется богатый спонсор, который создаст такие условия для работы ученых, что они смогут сделать невероятное. Запретить что-то делать можно только самим себе, но это романтизм. Как биолог я задаю вопрос: у эволюции есть вектор, цель? Сначала была простая нервная система, потом сложная, затем сверхсложная, и в итоге у нас есть наш мозг. Мы ускорялись миллионами лет, тысячами, сотнями, десятками, а теперь минутами. Мы разогнались очень сильно, и основную опасность я вижу в скорости изменений. Мы не можем приспособиться к скорости запущенного нами маховика. Способен ли наш организм, наша психика выдержать такое?
Что происходит у нас в голове?
У каждого нейрона есть огромное количество связей с другими частями мозга, смотреть на эти числа нет никакого смысла. Нейроны, которые являются главным действующим лицом, утоплены в глиальных клетках. К слову, нейронов у человека стало в 10 раз больше, сама глиальная ткань тоже на многое способна, например, у нее есть своя память. Это не стабильная сеть, а живая, она меняется. Если говорить, что нейронная сеть – это текст, а я говорю, что это текст, то в данном случае этот текст постоянно сам переписывается. Нейрон и сам по себе многое умеет, например, один нейрон может опознать человека. Однако чем заняты все нейроны в мозгу? Изучением этого вопроса занимается когнитивная наука, которая является конвергентной, то есть объединяет в себе сразу несколько наук. Среди них психология, нейронаука, лингвистика, антропология, искусственный интеллект, а вот философия теряет позиции. Сегодня философ – это человек, у которого натренировано мышление, он нам нужен как тот, кто укажет на неправильную постановку вопроса. Искусственный интеллект – один из участников системы, потому что это способ моделирования того, что делается в биологической жизни. Зачем нам нужно моделировать? Для того, чтобы проверить, правильное ли представление мы имеем о том, что изучаем. Если оно моделируется и ведет себя так, как мы задумали, значит, мы на правильном пути.
Почему логические выводы, математические доказательства применимы к реальной природе?
Философ Иммануил Кант говорил о том, что «… рассудок не черпает свои законы из природы, а предписывает их ей». Еще один вопрос, который меня мучает, почему вся математика неприменима в реальной природе? Почему я должна ей верить? Природа обладает той математикой, которая есть у человека? У нее такие же законы, как у нас? Мозг находится в физическом мире, им управляет физика и математика. Однако какая физика – Ньютона, Эйнштейна или Бора? Приличный ответ – вся. А математика какая – Лобачевского или Аристотеля? Я всем задаю эти вопросы, ответов я не получала до недавнего времени, пока мне не сказали, что математики, которая описывает процессы в мозгу, нет. Нет проблемы нехватки данных или времени, такой математики просто не существует. Тем временем данных у нас размером с Гималаи, но что с ними делать? Ведь фокус в том, чтобы понять и применять их.
Можем ли мы «увидеть» в мозгу наши этические и когнитивные возможности?
У всех есть надежда, что мы будем изучать мозг и все там найдем. Однако можем ли мы «видеть» там то, что ищем (этику, когнитивные возможности)? Вся современная нейронаука построена на поиске корреляции, то есть мы пытаемся понять, что происходит в мозге человека, когда он поет. Все тонны статей направлены именно на поиск адресов, а не на поиск ответа на вопрос «зачем?». Для чего искать, в каком месте головы находится этика? Советский хирург Архиепископ Лука, который проделал множество операций на мозгу, говорил: «Сколько сделал операций на мозге и ни разу не видел там ума, а также и совести, и чести».
Идея одного из крупнейших современных философов Даниела Деннета заключается в том, что если человек исследует каждую клетку мозга, то он узнает и про весь мозг в целом. Когда я спорю со своими коллегами из нейронауки, они говорят, что пока мы многого не знаем, однако появятся приборы, которые дадут информацию про каждый нейрон. Я спрашиваю, зачем мне знать про каждый нейрон из 100 миллиардов нейронов, что я с этим буду делать? Эта информация мне не нужна, это вовсе не значит, что ее не надо изучать, она нужна для других задач, но все же целое больше суммы частей. Юрий Лотман в свое время говорил, что теленка можно на стейки разобрать, но обратно он не собирается, а наука занимается именно тем, что разбирает на стейки. Она разбирает на все более мелкие частицы, но для чего? На какой вопрос мы ищем ответ?
Не верьте, когда вам будут говорить, что есть ген, отвечающий за пение, чтение и другие способности, что он находится в этой части мозга или другой, – это неправда. Огромная нейронная сеть работает вся. Медики скажут: если нарушены зоны в мозгу, отвечающие за речь, то человек лишается возможности говорить, это факт. Однако, если забудем про медицину, сунем голову в аппарат функциональной магнитно-резонансной томографии и дадим мозгу задание, то увидим, что он работает весь.
Программа LAKHTA VIEW включает восемь тематических сессий, которые будут проходить в атриуме Дома Книги каждую третью пятницу месяца до июня 2018 года. Предметом дискуссий станут ключевые составляющие проектирования и наполнения городского пространства. Формат LAKHTA VIEW совмещает лекции профильных экспертов с открытыми дискуссиями. Диалог с аудиторией и зрителями прямой трансляции выстраивается двумя модераторами – экспертами по теме мероприятия.
