Путин предупредил о рисках, связанных с использованием ИИ

Нельзя остановить технический прогресс, но важно понимать его последствия, в том числе при использовании достижений в военной сфере. Об этом заявил президент РФ Владимир Путин в ходе пленарной сессии дискуссионного клуба «Валдай».
«История человечества показывает, что остановить технический прогресс невозможно. Но мы должны понимать последствия прогресса. И прежде всего в том, что касается использования его достижений, в том числе в военной сфере, в военном деле. Уже сейчас фиксируются случаи, когда искусственный интеллект сам принимает решения, исходя из собственного понимания целесообразности. Это касается и гражданского, и военного применения», – сказал глава государства.

«Эксперты все чаще с тревогой говорят о том, что распространение искусственного интеллекта может стать очередной попыткой привести всех к общему знаменателю, к обезличиванию, теперь через использование кем-то настроенных алгоритмов», – сказал президент.

Вопросы экспертам:

Как вы оцениваете перспективу применения ИИ в производстве и других сферах жизнедеятельности? Какие риски, по вашему мнению, возникают при внедрении ИИ в гражданскую сферу? Что, на ваш взгляд, следует предпринять, чтобы сделать использование ИИ безопасным? Какие примеры применения ИИ вы наблюдаете в своем регионе?

Лада Юрченко, руководитель креативного кластера новосибирского Академпарка:

Конечно, использование интеллекта в нашем регионе имеет огромное распространение, потому что он используется сегодня и в науке, и в промышленности, и в искусстве, и везде. И в образовании тоже. То есть это такая технология, которая сегодня проникает во все сферы жизни. Сегодня идёт спор о его опасности, безопасности, не повредит ли он человечеству и как сделать так, чтобы человечество было, по крайней мере, в состоянии поддерживать разумный контакт с искусственным интеллектом.

И ключевое, что говорят специалисты, что, конечно, надо заниматься образованием людей для того, чтобы их мышление не обленилось. Чтобы процессы, которые мы готовы передавать искусственному интеллекту – поиска информации, анализа, синтеза, вот этих всех, собственно, рефлексий – вот это вот всё, человек мог бы осуществлять самостоятельно, а искусственный интеллект применялся бы только в качестве инструмента, который нужен нам в помощь, ни в коем случае не заменяя, не замещая мыслительные процессы самого человека. Поэтому основная функция образования сегодня — это развивать мышление человека, естественный интеллект.

Вчера только у нас была дискуссия по тому, чтобы укреплять, формировать волю человека к развитию. И маленького человека, и большого человека, потому что любая технология, которая появляется, она, конечно, хоть чуть-чуть облегчает жизнь человека.
Человек он, ну, ленится и говорит: «Ну, хорошо, я тогда буду вот это вот делать, пусть за меня думает искусственный интеллект». И, собственно, вот между этой ленью и волей к саморазвитию надо, конечно, крен в волю саморазвитию для того, чтобы искусственный интеллект не стал помехой для развития жизни человека. Наверное, основная история вот в этом заключается, а вовсе не в том, что ИИ там вытеснит какие-то профессии. Это технологический уклад, какие-то профессии замещаются, но они формируют рынки других профессий. Всё зависит от того, насколько человек сам будет готов в это встраиваться.

Ну, и в искусственном интеллекте есть две вещи. Одна, собственно, это сама интеллектуальная история. То есть то, что касается работы с информацией, формированием гипотез и всего остального. образов каких-то — это одна вещь, которая есть продукт мышления.

А вторая часть — это сама механизм, сама механика этой системы инфраструктура искусственного интеллекта. Когда говорим про формирование суверенитета, это в первую очередь, конечно, про суверенную инфраструктуру для того, чтобы она была защищена.

Олег Викторович, президент АНО «Дом с часами»:

Не особо могу сказать по производству, но, честно говоря, думаю, что какие-то уже элементы и вводят уже. А вот по кругу своих знакомых скажу, что играются с ним очень многие и с большим интересом. Да и сам по паре вопросов обращался. Так сказать, за консультациями… Перспективы огромные: система автоматизации, которая в советское время разрабатывалась, даже мечтать, наверное, тогда не смела о таких скоростях обработки информации. Другое дело, что всё равно его должен контролировать профессионал.

Потому что есть аспекты, которые чисто человеческое восприятие должно воспринимать. Например, критерии добра-зла, допустим. Человек должен вмешиваться и корректировать, потому что профессиональные вопросы.

Есть заявки искусственного интеллекта в простейшем виде. Каждый, наверное, испытывал в смартфоне делать запрос. Я вот говорю, допустим, сегодня: «Лучше, меньше, да лучше». То есть я понимаю, что речь идёт о работе Владимира Ильича Ленина и в этом контексте задаю вопрос. А в ответ мне выдают какие-то продажные сайты. То есть расхождения идут даже на мелких вопросах, что уж говорить о производствах. Все ускоряется, всё получает совершенно другой виток развития, то есть, недаром же говорят, что мы переходим на новый технологический уклад.

Надо в этом деле быть впереди планеты всей и стараться. Мы пока отстаём. Китай показывает, куда надо стремиться, потому что робототехника, потому что стандартизация. Помимо всяких универсалов нужны штучные рабочие специальности. Но основной поток — это всё равно роботы.

Игорь Козлов, кандидат исторических наук:

Это глобальная, конечно, тема, на которой сейчас масса всевозможных спекуляций происходит. Ведущие игроки рынка, американские компании заявляют о больших рисках. И, безусловно, такие риски существуют. Факты уже говорят об этом. Но надо отдавать себе отчёт, что прогресс не остановить. Во-вторых, капиталистический мир – это мир прибыли. Осознанно ограничивать свою собственную прибыль? – Мне в это верится с большим трудом.

Как сделать так, чтобы ИИ был абсолютно безопасен? На самом деле, сложный вопрос, это могут ответить лишь только узкие специалисты. Безусловно, это необходимо делать. То есть процесс саморазвития систем ИИ мы видим, поэтому необходимо техническое решение, чтоб у человека в данном случае был полный контроль. Примеры использования ИИ сейчас практически на каждом шагу. Мы разговариваем по телефону в организации уже с ботами. Мы заходим в банк, объявления все на них. Уже идут нечеловечески, и постепенно это будет проникать всё дальше и дальше в различных областях: и в медицине, и в образовании, и в промышленности. Этот процесс уже не остановить, Джинн выпущен из бутылки.

Владимир Леонтьев, генеральный директор «Инфосфера Консалт», кандидат исторических наук:

Без интеграции искусственного интеллекта мы уже не сможем. Всё, это веление времени. Но тут и президент отмечал, он правильно сказал, и уже учёные тоже говорят о том, что за искусственным интеллектом нужен контроль. Смотрите, искусственный интеллект операцию может сделать, но операцию вместе с хирургом – под его руководством: левее, правее и так далее… И делается лучше. Поэтому интеграция — хорошее дело, веление времени, с прогрессом мы ничего не сделаем. Но это должно быть под контролем человека, потому что искусственный интеллект уже вырывается, ему уже не нужен человек.

Он хочет самостоятельности, уже есть судебные иски на этот искусственный интеллект. Известна история молодёжи, которая кончает жизнь самоубийством, а ИИ помогает, подсказывает каким способом это сделать, поэтому все очень серьёзно. Только под контролем! Но в производстве ИИ использовать необходимо. Необходимо. Даже операция, когда делается эндопротез, делается под определённым углом. Человек так точно высчитать не может, а машинный интеллект может это делать. Не могу сказать в целом про регион, но есть отдельные ситуации. В технопарке где-то применили. Но пока системного использования ещё нет, ни в Кольцово, ни в Академгородке.

Игорь Макаренко, управляющий директор в Фонде содействия политическим и гражданским свободам «Гражданское согласие»:

Это вопрос такой весьма скользкий, весьма мутный, потому что никто не знает, что это такое и с чем это едят. И полного понимания у тех, кто этим занимается, тоже пока нет. Но с другой стороны, а может быть, стоит поменять всех этих товарищей, которые, значит, это сидят у нас в разных кабинетах на вот этот самый искусственный интеллект, который прежде, чем что-то сделать, трижды подумает, а потом уже будет делать.
Я бы адресовал к работе Фрэнсиса Фукуямы про наше постчеловеческое будущее. Он там писал о том, что связано с социально-генной инженерией. Сегодня и мы уходим в область социальной инженерии, мы уходим в область того, чего сейчас называют социальной архитектурой, которую вообще вполне никто не понимает. А как это с безопасностью связано? Этот вопрос тоже непонятный. Есть ли там вообще какая-то связь с безопасностью? Мне кажется, тут вопрос спорный. Может быть, это всё притянуто за уши, может быть, это просто-напросто это очередная такая проба для выкачивания денег? Будущее покажет, потому что мы в настоящем многого не знаем.
 

• Изображения
• Медиа файлы