Часы Судного дня застыли в 85 секундах от Апокалипсиса: почему сбой естественного интеллекта не менее опасен, чем угроза ИИ
Академик РАН, доктор экономических наук, профессор и президент Института мировой экономики и международных отношений РАН Александр Александрович Дынкин
Фото: Евгения ГУСЕВА.
Часы Судного дня показывают 85 секунд до апокалипсиса. Каковы сейчас главные угрозы для человечества? Какие у нас остались тормоза? И можно ли научно предсказать будущее?
Об этом в программе «Время науки» на радио «Комсомольская правда» говорили ее ведущие - радиожурналист Мария Баченин, научный руководитель Национального центра физики и математики, академик РАН Александр Сергеев - и их гость, академик РАН, доктор экономических наук, профессор и президент Института мировой экономики и международных отношений РАН Александр Александрович Дынкин.
КАК ПРЕДСКАЗЫВАЮТ БУДУЩЕЕ ПО-НАУЧНОМУ
Мария Баченина:
- В ИМЭМО вы участвовали в разработке метода, который называется «ситуационный анализ». Для обычного человека предсказывать будущее – это что-то из мистики. Могли бы вы нам объяснить, как это вычисляется?
Александр Дынкин:
- Метод ситуационного анализа разработал академик Евгений Примаков. И это было в доцифровую эру. Это инструмент интегрированного знания высококвалифицированных экспертов. Для успеха ситуационного анализа надо очень грамотно отобрать экспертов и очень точно прописать сценарий. Желательно, конечно, чтобы были не только ученые, а еще и те, кто занимается темой практически в практических ведомствах.
По понятным причинам эти работы были закрытыми, но там было несколько конкретных результатов. Например, удалось предсказать энергетический кризис 1973 года и обострение арабо-израильского конфликта. Я помню, Примаков за четыре месяца с уверенностью говорил о неизбежности американских бомбардировок Камбоджи во время Вьетнамской войны. Мы занимаемся не только экономикой, но и мировой политикой, и вопросами безопасности. И мы продолжаем эти исследования. У нас появился еще один друг - это искусственный интеллект. Мы его спрашиваем и учитываем его мнение, как одного из участников ситуационного анализа.
Мария Баченина:
- А что делать с геополитикой? Если предсказывать конфликтные ситуации, как вы привели пример бомбежки Камбоджи, что делать с этим знанием?
Александр Дынкин:
- Это уже вопрос практических ведомств, которые занимаются внешней политикой.
Александр Сергеев:
- Мировая политика и экономика содержит очень много непредсказуемых факторов. Президент большой страны встал не с той ноги, и акции куда-то полетели, и обостряются разные военные ситуации. Насколько лет вперед можно предсказать, основываясь только на мнении экспертов?
Александр Дынкин:
- Понимаете, уже в названии «ситуационный анализ» зашито то, что это анализ конкретной проблемы на кратко- и среднесрочный период. То, о чем вы спрашиваете, это совершенно другой метод - метод долгосрочного стратегического прогноза. Они, конечно, пересекаются, часто пересекаются эксперты, но все-таки цели разные. Если мы говорим о долгосрочном прогнозе - целесообразно делать прогноз на 20 лет. Потому что 20 лет - период активной жизни одного поколения. Мы определяем валовые внутренние продукты стран, смотрим, кто создает продукт, куда идет потребление продукта. И дальше, уже при помощи ситуационных анализов, по конкретным регионам и странам прописываем сценарии, отталкиваясь от макроэкономического прогноза.
Участники программы «Время науки» на радио «Комсомольская правда»
Фото: Евгения ГУСЕВА.
НОВЫЙ МИРОВОЙ ПОРЯДОК ПИШУТ ПОБЕДИТЕЛИ
Мария Баченина:
- Предсказывали, когда наступит многополярный мир?
Александр Дынкин:
- Академик Примаков первым опубликовал статью в 1996 году, когда он был министром иностранных дел. Это было не очень воспринято, потому что некоторые считали, что мир по-прежнему биполярный, что мы такие крутые, что мы второй полюс. Сегодня это стало аксиомой.
Александр Сергеев:
- Многополярный мир наступает или уже наступил?
Александр Дынкин:
- Я думаю, что мы в самой начальной фазе его формирования. Мировая история последних 200 лет говорит о том, что каждый новый мировой порядок пишут победители в крупной войне. Так было после наполеоновских войн, так было после Первой, после Второй мировой войн. Сегодня тот мировой порядок, который сформулировали пять стран-победительниц во Второй мировой войне, пришел к своему завершению. Экзистенциальный вопрос заключается в том, чтобы новый мировой порядок сформировался без большой войны. Сумеет человечество преодолеть эту инерцию предшествующих двухсот лет или нет?
Александр Сергеев:
- В свое время был предложен интересный эксперимент - часы Судного дня. Это некий символический проект «Бюллетеня Американских ученых-ядерщиков». Эксперты каждый определяют положение стрелки до полуночи. Полночь – апокалипсис. Сегодня стрелка стоит на максимально близкой позиции к полуночи - 85 секунд. Хотя были периоды, это 1991 год, когда стрелка стояла на расстоянии 17 минут до полуночи. И если раньше ученые-ядерщики стрелку выставляли, то сейчас появились еще и биологи, экологи и в последнее время информационщики. Это отражает микс ядерной опасности и опасности, которую несет искусственный интеллект при неразумном или злонамеренном использовании. Как вы считаете, что наиболее серьезно среди этих угроз сегодня?
Александр Дынкин:
- Я думаю, по-прежнему угроза ядерной войны, в силу наличия серьезных вооруженных конфликтов в мире, остается на первом месте.
Научный руководитель Национального центра физики и математики, академик РАН Александр Сергеев
Фото: Евгения ГУСЕВА.
СБОЙ ЕСТЕСТВЕННОГО ИНТЕЛЛЕКТА
Александр Сергеев:
- Самостоятельно или при сбое искусственного интеллекта?
Александр Дынкин:
- Понимаете, может произойти сбой и естественного интеллекта. Я был недавно на Валдае, и Владимир Владимирович Путин привел пример, как дежурный офицер получил сигнал, что три баллистические ракеты двигаются в нашу сторону. Он взвесил ситуацию и взял на себя тяжелый риск, не запустил ответно-встречный удар. Похожую историю мне рассказывал бывший министр обороны Соединенных Штатов господин Перри. Дежурный офицер звонит ему в три часа ночи и говорит: в нашу сторону движутся 300 российских ракет. По протоколу Перри должен немедленно разбудить президента, получить добро на ответно-встречный удар. Но я, говорит, взвесил ситуацию, я не видел никаких обострений между нашими странами. Я принял снотворное и лег спать. Не позвонил президенту.
Опасно исключать человека из цепочки принятия этих решений. И время на это решение все время сокращается. Особенно в результате эскалации ракеты будут размещены вблизи наших границ, так называемое подлетное время становится совсем маленьким. Я не очень знаком с этой технологией, но я думаю, что количество автоматических алгоритмов возрастает именно с учетом этого короткого подлетного времени.
Мария Баченина:
- Александр Александрович, вы сказали: главное, чтобы человечество перешло к новому порядку не через большую войну. А вы лично видите этот тормоз? Или мы уже его сорвали?
Александр Дынкин:
- Я вижу тормоз в том, что называется «взаимное гарантированное уничтожение». Этот тормоз остается.
Мария Баченина:
- Я бы это назвала страхом. Личный человеческий страх.
В эфире «Время науки»
Фото: Евгения ГУСЕВА.
Александр Сергеев:
- Необратимость ответного удара.
Мария Баченина:
- Сейчас все говорят, что политики перестали воспринимать всерьез ядерную угрозу.
Александр Сергеев:
- Просто поколения политиков новые. У них военный опыт - результат компьютерных игр.
Александр Дынкин:
- Вы знаете, я бы, перефразируя известную фразу, сказал: не слушайте за завтраком политологов. Слушайте профессионалов. Я слушал внимательно Владимира Владимировича, он тоже говорил о такой возможности. Но он это говорил в совершенно другом контексте. Не в контексте страха. Сегодня европейские страны НАТО активно готовятся к вооруженному конфликту, военная пропаганда, истерия там по нарастающей - уже известны данные о военно-штабных играх по удару по Калининграду, по блокаде Балтийского моря. Путин четко сказал, что интегральный экономический потенциал и человеческий потенциал Европы выше, чем у России. И у России остается одно конкурентное преимущество в этом конфликте – модернизированные стратегические ядерные силы. Его логика совершенно другая, не логика политологов. Такова реальность.
Я считаю, что нужно отвечать на вызовы, но не переходить какую-то черту, или перейти ее только в том случае, если будет угроза нашей территориальной целостности или государству. И это сформулировано в нашей новой ядерной доктрине.
Академик Дандыкин рассказал об опасности использования ИИ в военных целях
Фото: Евгения ГУСЕВА.
Александр Сергеев:
- А могут ученые сегодня существенно влиять на возникновение этих тормозов?
Александр Дынкин:
- Сегодня угрозы стали многочисленными. Это и биологическое оружие, и кибероружие, и космическое оружие, и теперь искусственный интеллект. В случае ядерного оружия контроль был более-менее понятен. Его можно было отчасти контролировать национальными сейсмическими и спутниковыми системами. Проконтролировать биооружие, которое можно в подвале из трех пробирок переливать, гораздо сложнее. Добавляется еще искусственный интеллект. Что с этим делать - не очень понятно. Тут, как ни странно, наша официальная позиция с американской сходится, мы против каких-то ограничений искусственного интеллекта.
КОГО ИИ ОСТАВИТ БЕЗ РАБОТЫ
Мария Баченина:
- А безработица? Насколько людям ИИ опасен в этом плане?
Александр Дынкин:
- Вы знаете, каждая технология несла структурные изменения на рынке труда. Мы можем вспомнить луддитов, которые ломали ткацкие станки. Такие же страхи были, когда появились конвейеры, роботы, компьютерная революция. Теперь искусственный интеллект. Безусловно, какие-то сдвиги на рынке труда произойдут, но в обществе и экономике есть компенсаторные механизмы.
Мария Баченина:
- Мы сейчас живем на сдвиге тектонических плит, в такое время, когда все меняется. Это интересно и жутко страшно одновременно.
Александр Дынкин:
- Вы правы. Много-много перемен в технологиях, и в геополитике, и даже в образе мышления. Мы все больше воспринимаем графическую информацию, а не текстовую. Вы знаете, что молодежь перестает читать книги, которые мы с вами читали. Есть такая китайская поговорка: чем историку интереснее, тем современнику опаснее.
Александр Сергеев:
- Искусственный интеллект – это сейчас, наверное, главная часть экономики во всем мире, почти под триллион долларов. У меня есть оценка по рыночной стоимости Anthropic - где-то 950 миллиардов долларов. По объему весь наш российский рынок, который торгуется на Московской бирже, включая наших главных игроков в области искусственного интеллекта, в два раза меньше рыночной стоимости одной компании.
Александр Дынкин:
- Есть встроенные адаптационные механизмы общества ко всем новым технологиям. Что я имею в виду? В результате этих технологий медленно, но растет производительность труда. Раз растет производительность труда, то растет благосостояние. Посмотрите, на улицах новые профессии - доставщики. Были они 25 лет тому назад? Нет. Рынок труда адаптируется точно так же, как он адаптировался к ткацким станкам, к паровой машине, компьютерам.
5 сентября искусственный интеллект впервые выиграл Кубок прогнозистов в Соединенных Штатах. В 2024 году искусственный интеллект занял 34-е место. Сейчас первое. Парень, который сделал свою модель и выиграл, на всю эту историю потратил 150 часов рабочего времени и 2000 долларов. Всего-то.
Если я раньше просил младшего научного сотрудника или лаборанта поискать мне такую-то статистику, то сегодня я его прошу задать вопрос нескольким искусственным интеллектам, показать мне ответы, и на расхождениях возникает некое поле для исследования, неизвестное поле. Младший научный сотрудник без ИИ мне сегодня становится не нужен. Но ценность человека, владеющего этой методикой, возрастает. С точки зрения занятости, я считаю, что произойдет адаптация.
Если ИИ начнет использоваться в военных целях - в этом главная опасность.
КСТАТИ
А лучше учить китайский язык
Александр Дынкин:
- Был такой постулат прошлого века. Считалось, что если есть плотные экономические связи, то они, как киль у яхты, стабилизируют политические отношения. Наши отношения с Германией не удержали нас от политической конфронтации. Поэтому сегодня этот тезис не вполне работает. Он отчасти работает в американо-китайских отношениях. Но китайцы все понимают, они внимательно смотрят на наши отношения с Европой, сокращают свою покупку облигаций американского казначейства, они готовы к разрыву этих связей.
Александр Сергеев:
- Знаю ваше высказывание, что можно прогнозировать, можно стратегировать, а лучше - учить китайский язык. Что вы вкладываете в это высказывание?
Александр Дынкин:
- Китай все больше становится одним из моторов технологического развития человечества. Я видел в Китае поля, уставленные солнечными батареями. Я нигде такого не видел. Если говорить о расходах на исследования и разработки, на НИОКР, как у нас принято говорить, то 50% мировых расходов на НИОКР приходятся на две страны - это Китай и Соединенные Штаты. Китай взял курс на технологическое первенство. Объемы китайской экономики позволяют им вкладывать растущие ресурсы в исследования и разработки. Китайская машина уже работает на всех оборотах. Поэтому я и говорю, что надо знать китайский язык сегодня.
Мария Баченина:
- Александр Александрович, лет через двадцать сколько людей останется на планете?
Александр Дынкин:
- Уже произошел демографический переход в Китае, у них численность населения снижается. Население Индии будет расти до 2060 года, а население Африки - за этим горизонтом. Будет очень большая асимметрия. И еще одна угроза заключается в том, что будет разрыв между странами Севера, где низкая демография, и странами Юга, включая Центральную Азию, где будет высокая демография. И будет разрыв в уровнях жизни, плюс страны Юга будут испытывать серьезные проблемы, связанные с климатическими изменениями.
Мария Баченина:
- Индия станет поставлять человеческий ресурс?
Александр Дынкин:
- Когда бываешь в Индии, а я очень часто там бываю, я люблю эту страну, то видно, как они относятся даже в самых бедных районах к образованию детей. Приезжает в несусветную деревню автобус, из этих домиков бегут чистенькие дети в хороших формах. Они инвестируют в образование, в человеческий капитал.
В Индии нормальная динамичная экономика. Индия сегодня по темпам роста - страна номер один, у них рост где-то 7%, как у нас было в период 1999-2007 года. Но высокая рождаемость и поляризация: в Индии есть области высокого хайтека, а есть общества, где в трех поколениях живут на улицах. Они, конечно, будут экспортерами рабочей силы и мозгов. Но по благосостоянию, по ВВП на душу населения Индия не будет догонять развитые страны до 2060 года.
ЧИТАЙТЕ ТАКЖЕ
Некуда бежать? Сможет ли человечество покинуть Землю и переселиться в космос
СЛУШАЙТЕ ТАКЖЕ
Иисус Христос действительно ходил по воде. Теперь это научно доказано