Черниговская призвала не торопиться с развитием ИИ

XIX Всемирный фестиваль молодежи и студентов. Дискуссионная программаДзен

Быть аккуратнее и не торопиться с развитием систем искусственного интеллекта (ИИ), грозящим «эпохой фейка» и «разрушением человеческой сущности» призвала ученых и все общество в беседе с РИА Новости директор Института когнитивных исследований СПбГУ, доктор биологических и филологических наук, академик РАО Татьяна Черниговская после выступления на конференции РАН в Москве.

Научный совет по методологии искусственного интеллекта и когнитивных исследований при президиуме Российской академии наук (НСМИИ РАН) проводит на этой неделе международную междисциплинарную конференцию на тему: «Искусственный интеллект и цифровая реальность». Черниговская выступила на форуме с докладом «Искусственный интеллект как конкурент: сознание или его имитация?».

«Я бы призвала быть аккуратнее, потому что это не просто одно из мощных технологических или технических достижений или каких-то усовершенствований. Если мы раньше ездили на ослах, а теперь летаем на замечательных самолетах — это не более чем увеличение того, что было. А то, что связано с искусственным интеллектом и цифровой реальностью, — это переход в совершенно другой мир. И мы должны быть аккуратны, чтобы не разрушилась наша человеческая сущность — нас (людей) как вида. Мы переходим во что-то другое, и мы не знаем, как мы там жить будем. Поэтому действовать нужно аккуратно и не торопиться, чтобы шею себе не сломать», — сказала РИА Новости Черниговская.

По ее словам, сейчас больше всего пугает огромная скорость развития и внедрения искусственных систем, «наступление эпохи, когда все будет фейк» — и необходимо сказать ИИ: «Тень, знай свое место».

«Всего на Земле, за всю ее историю, нас (людей) здесь жило 120 миллиардов человек. Мы пока еще живем на планете людей, но это стремительно меняется», — отметила ученый.

Черниговская добавила, что Homo sapiens (человек разумный), loquens (разговаривающий), semioticus (порождающий смыслы) в наши дни еще и homo confusus (человек в недоумении).

«Dubito ergo cogito – сомневаюсь, следовательно, мыслю», — перефразировала ученый утверждение Декарта. «Мы не понимаем, какое место в мире мы сейчас будем занимать. Мы должны понять, кто мы такие и какой будет этот мир, как будем отличать настоящее от фейка. У нас никогда не было конкурентов на когнитивном поле — мы были лучшие, а сейчас встает вопрос: насколько ИИ нам конкурент», — пояснила собеседница агентства.

Все хотят хорошего будущего детям, констатировала Черниговская, но недостаточно иметь безопасность, здоровье и сытость, если перед ними будут экзистенциальные пропасти, если жить не хочется, бессмысленно.

«Как сосуществовать, если будут разные интеллекты: людей и искусственных систем? Как будет происходить разделение труда? Предполагалось, что высокоинтеллектуальными и прекрасными вещами будем заниматься мы, а техническую во всех смыслах работу возьмут на себя искусственные системы. Но ведь так не вышло, и не похоже, чтобы оно вышло дальше, — чтобы ИИ только чинил водопровод, работал в шахте, летал на Марс», — сказала Черниговская.

Мозг человека, по ее словам, — это не сумма миллиардов нейронов и связей между ними.

«Есть еще индивидуальный опыт, который сформировал и настроил этот инструмент (мозг), восприятие – активное извлечение знаний и конструирование мира. Мы – существа, творящие миры… Теорий сознания в мире уже более 200 — это значит, что нет ни одной, о которой бы ученые договорились. А мы уже собираемся воспроизводить человеческий мозг — не зная, как он действует, уже звучат предложения: дедушку на флешку запишем (оцифруем), внук потом его воспроизведет», — отметила академик.

Черниговская считает актуальными еще множество вопросов о возможностях ИИ. В частности, способен ли ИИ на сомнения, неуверенность в себе, ответы «не знаю», прорывы наподобие «Эврика!», неалгоритмичность, целостную картину мира в человеческом понимании, на свою логику, которая станет вообще непонятна людям. Альфред Шнитке, напомнила Черниговская, в одном интервью сказал, что для образования жемчужины в раковине нужно что-то неправильное, инородное, например, песчинка, совсем как в искусстве, где великая истина рождается не по правилам.

«Ошибка, или обращение с правилом на грани риска – и есть та зона, где возникает искусство и где возникают, в том числе, открытия в науке. Вот где наша последняя надежда, пока», — добавила исследователь.

Ответы на острые вопросы, связанные с развитием ИИ, должны искать, по словам Черниговской, не только профессионалы из числа разработчиков ИИ, но все общество, и прежде всего, лучшие ученые из разных сфер.

«Отвечать на вопросы прогнозирования и принимать решения такого рода (о будущем) должны те, кто компетентны, и это нейроученые и когнитивные ученые, и биологи, и генетики, и математики, и физики, и философы, и лингвисты, и, возможно, теологи. Мы двигаемся в очень опасную сторону, а ответственность — на каждом из нас», — заключила Черниговская.