Что опаснее? Искусственный интеллект или наша глупость?

В последние годы искусственный интеллект (ИИ) всё стремительнее проникает в нашу жизнь. Он уже не только отвечает на простые вопросы и выполняет рутинные задачки, но и помогает нам принимать решения в работе и личной жизни, создавать новое и иногда даже заменяет психологов и друзей. Эта бесшумная экспансия ставит перед нами серьёзный вопрос – как растущие возможности и интеграция в нашу повседневность ИИ отразится на человеческой природе? Какими мы будем через 10 лет, когда, скорее всего, уже не будем представлять себе жизни без искусственного интеллекта?

Завышенные опасения

Неужели такой вопрос появился в первый раз перед человечеством? Когда стали подозревать, что земля круглая? Или когда появилась атомная бомба? Даже когда появился телевизор? Всё это вызывало многочисленные вопросы, сомнения, опасения, что мир изменится, что  человечеству угрожают неведомые опасности! И не повторяем ли мы вопрос, который возникает каждый раз, когда создаётся новое знание, будоражащее умы всего человечества? Вопрос о том, какие угрозы возникают и могут привести к грандиозным социальным или природным катаклизмам!

Но каждый раз оказывается, что угрозы сильно преувеличены и человечество быстро адаптируется к ним. Есть некоторая закономерность в том, что новое – всегда пугающе! Почему так? Наука отвечает на этот вопрос. Новое всегда создается и возникает в сознании исключительного меньшинства людей – обычно более подготовленных к восприятию сложных научных и технологических открытий и склонных к системному мышлению. А те, кто узнают об этих открытиях через сторонние источники информации, сначала не понимают проблемы, а потом попадаются на ловушки, расставляемые «популяризаторами» и «маркетологами».

Для этих «ловцов» главное – создать «шумиху», потом «неразбериху», затем «выявление невиновных и поощрение не участвовавших в работе». Так и с «искусственным интеллектом». Никакой новой угрозы для человечества он не несёт. По крайней мере в ближайшие сотни лет мы можем быть уверены, что главные угрозы человечества – не в ИИ. Скорее всего, они – в чрезмерной «жадности и глупости» тех, кто используют всё, что создаётся человечеством и природой для обеспечения нормального жизненного уровня людей, в корыстных и преступных целях.

Использовать ИИ можно как для благородных целей, так и для очень сомнительных – впрочем, так же, как атомные технологии, ракеты, новые достижения в любых науках.

Именно это и делается человечеством на протяжении всей истории. Новое всегда создаётся меньшинством. И кажется «большинству» угрожающим! Угрожающим их образу жизни! Не самой жизни, а стандартному, привычному образу жизни! И они становятся противниками всего нового и «угрожающего» этому образу! Как правило, именно меньшинство – создатели и носители новых научных и технологических людей, а большинство боится нового и ему противодействует.

Проблема кажущейся «особой опасности» ИИ имеет ту же природу. Пока можно говорить только о том, что «глупость» и «невежество» (это два основных «дара божьих» для человечества) представляют действительно постоянную угрозу, от которой вероятность появления «критических проблем для человечества» повышается. И достигла ли угроза критического уровня – зависит от многих факторов, а не только от того, что появился ИИ. Кстати, сам термин ИИ появился недавно, но об искусственном интеллекте как понятии известно давно. Тест Тьюринга (ему около 70 лет) – это способ проверить, может ли машина мыслить, как человек, используя текстовый диалог. Для этого человек-судья в течение некоторого времени задаёт вопросы двум невидимым собеседникам: человеку и машине. Если судья не может отличить ответы машины от ответов человека, машина считается прошедшей тест.

Но ничего слишком особенного, с точки зрения опасности для человеческого общества, на мой взгляд, не появилось. Ведь ИИ должен сначала обучаться. И как для любого обучаемого в процессе жизни объекта, его будущее поведение зависит от того, кто и как его обучает, какую обучающую выборку используют и какие критерии для выявления «ошибок» и «правильных реакций» применяют. То есть, здесь соединяются обучающая информация, учителя и окружающая среда, с которыми взаимодействует ИИ. И «обучение с подкреплением». Очень полезная аналогия: обучение детей и обучение ИИ. Вырастет ли из ребенка добропорядочный член общества или преступник, зависит от того, кто и чему его обучает в процессе жизни. И чему он сам учится из опыта. У самых лучших родителей могут вырасти дети преступниками или героями. Это зависит как от их собственных способностей, так и от обучения в процессе жизненного цикла. Общество и каждый человек не застрахованы от ошибок, но снизить их вероятность и влияние можно с помощью договорных отношений между участниками социальной системы и другими мерами, похожими на те, которые используются человечеством для защиты от опасных технологических процессов (например, при использовании атомной энергетики). Чем раньше начинается воспитание ИИ, тем выше вероятность избежать серьезных опасностей глобального характера.

Главные прогнозируемые изменения

Критическое мышление. В условиях цифровой эпохи способность к глубокому осмыслению и анализу сложных концепций ослабевает, особенно под влиянием социальных сетей и возможности мгновенного поиска информации.

Живое общение. За последние годы ИИ успел стать выдающимся собеседником: он успешно имитирует человеческие эмоции и при этом «знает», как сделать разговор максимально комфортным. Скорее всего, дети, растущие в эпоху искусственного интеллекта, будут всё свободнее обращаться с ИИ, но вместе с этим утрачивать навыки спонтанных человеческих связей, так важных для ментального здоровья и ощущения счастья.

Навыки и амбиции. В мире, где всё больше задач делегируется искусственному интеллекту, легко начать сомневаться в своих способностях и постепенно перестать верить в себя. Утрата человеком амбиций и желания развиваться – зачем работать над собой, если ИИ всё равно справится лучше? И это тоже – возможная проблема.

Фейки. Современные системы ИИ способны не только обрабатывать большие объемы информации – они создают новости, события и образы, которые с каждым днём всё сложнее отличить от реальных. Уже сейчас значительная часть информации в интернете сгенерирована ИИ, в том числе множество фейков и компиляций, созданных в спекулятивных целях.

Одиночество. Многие эксперты считают, что развитие систем ИИ может негативно сказаться на психическом благополучии человека. Растущая роль ИИ всё чаще будет заставлять людей чувствовать себя ненужными и одинокими. С другой стороны, ИИ способен облегчать чувство одиночества, поскольку даёт человеку возможность находить других близких по духу людей. В подобных процессах важную роль играет сам человек и то, как он решает использовать цифровых помощников.

Мораль.  Искусственный интеллект уже демонстрирует способность к сопереживанию, а ещё помогает принимать решения в спорных вопросах – например, справедливо ли вынесен судебный приговор, стоит ли сейчас оформлять ипотеку или брать сотрудника на работу. Если люди продолжат отдаляться друг от друга, а решение моральных и этических вопросов перейдет к ИИ, мы утратим способность анализировать такого рода проблемы. Это может лишить нас чувства личной ответственности за вынесенные решения.

Творчество и саморазвитие. Одна из главных страшилок про ИИ – то, что он вскоре отберёт у всех нас работу. В мире, где человек физически не способен конкурировать с ботом, нам придётся переосмыслить такие явления, как искусство, саморазвитие, личностный рост и работа над собой.

Рефлексия и самоанализ. Со временем люди привыкнут слепо верить рекомендациям ИИ и перестанут оценивать его работу. Неготовность отдавать себе отчет в действиях, принятых по совету искусственного интеллекта, приведёт к тому, что мы всё чаще будем испытывать проблемы с рефлексией и самоанализом.

Обучение. Это, пожалуй, первый по-настоящему вдохновляющий штрих нашего будущего с ИИ. Уже сейчас ИИ активно используется в образовательных системах: анализирует данные об учащихся, подбирает для них индивидуальную программу, генерирует учебные задания и даёт обратную связь. И это не отобьёт у нас желание учиться, а наоборот, облегчит процесс и сделает его более привлекательным. Алгоритмы ИИ ещё сильнее расширят возможности человека к дальнейшему обучению и сделают его более любознательным.

Принятие решений. Хотя многие считают, что привычка спрашивать у ИИ советов по любому поводу лишит человека самостоятельности, ИИ, скорее всего, положительно влияет на качество принятия решений.

Инновации и креативность. Грамотная работа с ИИ значительно расширит креативные и интеллектуальные способности человека: боты смогут генерировать первоначальное «облако» идей, с ними можно будет устраивать брейнштормы и стратегические сессии.

Сбалансированный диалог

Мы быстро привыкаем к хорошему. Во многом именно это привыкание заставляет нас смотреть на ИИ с тревогой: чем больше задач мы ему доверяем, тем больше качеств и навыков мы утрачиваем. Наши интеллектуальные, эмоциональные и социальные способности будут постепенно атрофироваться, если мы поддадимся соблазну перекладывать важные решения и ответственность на ИИ. Поэтому одним из важнейших вызовов, которые бросает нам  ИИ, становится умение адаптироваться к новой реальности, пронизывающей всю нашу жизнь. Иными словами, надо сделать ИИ своим умным помощником, а не просто подсказчиком информации и справочником.

Имеются вполне позитивные примеры, как современные LLМ (Большие Лингвистические Модели, которые сегодня в основе ИИ) используются для анализа и сравнения библейских текстов (проект LOGOS 7), создают новые тексты и картинки, озвучивают тексты и делают многое другое.

Выводы, которые основаны на результатах указанных примеров, приводят к следующим утверждениям: ИИ может нанести ущерб людям, заставляя их пересматривать некоторые устоявшиеся взгляды и традиции. Особенно религиозные. Может угрожать посредственным художникам. Может также привести к исчезновению некоторых профессий или, точнее – рабочих мест, занимаемых посредственными специалистами. Но эти риски ведут к развитию и не угрожают человеческому обществу в целом.

Также можно надеяться, что ИИ поможет расшифровать языки общения наших партнеров по жизни на земле (животных, птиц и других живых существ). Исследования по изучения языка общения птиц (ворон, в частности), млекопитающих (кошек, собак и др.) вовсю ведутся и могут привести к тому, что мы существенно расширим взаимодействие с нашими биологическими соседями. Это оптимистичный прогноз!

А ведение войн с помощью ИИ – это, к сожалению, более опасный тренд. Оружие на основе ИИ может сильно изменить равновесие в мире и привести к существенным изменениям социальных и государственных систем. И это уже звучит не очень оптимистично!

Суммируя все «за» и «против», сделаем единственно правильный вывод: мы должны заставить ИИ работать вместе с нами, а не вместо нас. Наше будущее (по крайней мере, его оптимистичный вариант) – это сбалансированный диалог человеческого и искусственного интеллектов, в котором отчётливо слышны оба голоса. Такой подход к взаимодействию с ИИ не только облегчит нашу жизнь, но и сделает её более осмысленной и полной.

Проф. Самуил Горелик (Израиль)

Читайтетакже:

1. ИИ в быту. Журнал «Партнёр», № 9 / 2025. Автор С. Мучник
2. ИИ – самая опасная опасность? Журнал «Партнёр», № 7 / 2023. Автор С. Мучник
3. Я не ChatGPT! Журнал «Партнёр», № 5 / 2023. Автор С.Мучник
4. ИИ сегодня. Журнал «Партнёр», № 3 / 2025. Автор GPT