Искусственный интеллект – самая опасная опасность?

Что является для человечества опасностью номер один? Потепление климата? Начатая Путиным война, обещающая перерасти в ядерную? Новые страшные эпидемии? … Это всё совершенно реальные угрозы, война в Украине лютует, но многие умные люди, не отмахиваясь от этих опасностей, действительно озабочены другой глобальной угрозой – искусственным интеллектом (ИИ, Artificial Intellegence – AI).

Интеллект – это главное отличие человека (Homo Sapiems – человек разумный) от животных. Это способность понимать причинно-следственные связи и предвидеть последствия. Мы говорим, что собаки, лошади, дельфины, обезьяны – умные животные. Но до нас, людей, им далеко, именно поэтому они нам служат, а не мы им. Мы – хозяева, они – рабы, даже если мы их любим. Но тут речь вообще о неживом, о машинах.

Восстание умных машин – это ведь излюбленная тема фантастики.

Всякие там терминаторы, робокопы, андроиды, репликанты... словом, роботы. Это слово, робот, придумал Карел Чапек, оно производное от чешского «робота». В его пьесе 1920 года роботы сначала служат людям, потом вытесняют их. Люди погрязли в удовольствиях, перестают плодиться, и человечество уступает место сообществу роботов. Но и те деградируют и вымирают. Что ждет нашу землю? Новое человечество: в роботах возникают чувства совершенно человеческие: любовь, самопожертвование. История Адама и Евы раскручивается по новой.

Подобный сюжет – очеловечивание умных машин, мы видим в вариациях чуть ли не каждый день на экране. А что мы видим в жизни? До вчерашнего дня – ничего такого мы в жизни не наблюдали. А сегодня уже ни о чем другом и не говорят. ИИ и его опасность – это одна из главных обсуждаемых тем в прессе и в политике.

Стали появляться заявления очень серьезных людей (от Илона Маска до Генри Киссинджера) на эту тему – об опасности искусственного интеллекта.

Причем озабоченность проявляют не только люди, чьему влиянию и авторитету может навредить развитие ИИ, но и сами его создатели. Вот, например, Сэм Олтмен (Sam Altman), глава OpenAI, создатель Chat GPT. Он прямо говорит о рисках, связанных с технологиями ИИ, главным образом имея в виду три опасности:

ü Изменения на рынке труда, то есть вытеснение ряда специальностей, потеря работы многими специалистами

ü Непосредственный вред людям от искусственного интеллекта (тут воображения не хватает описать, что может натворить предоставленный сам себе и не контролируемый ИИ)

ü Наконец, полная потеря контроля над ИИ, превращение его в самостоятельную сущность, от человека никак не зависящую. И тут логично допустить, что зависеть будет человек.

Илон Маск, инноватор номер один в мире, кстати, стоявший и у истоков ApenAI Олтмена, является сторонником государственного контроля. Если ему при создании автомобилей и ракет необходимо преодолеть массу государственных преград и запретов, дабы не навредить людям, то почему, рассуждает он, для ИИ должно быть сделано исключение. Да, его электроавтомобиль Tesla, может быть опасен, но тот же автомобиль, ведомый ИИ (а это одна из целей Маска – автономный транспорт) может быть на порядки опаснее.

Сам же Олтмен, выступая перед Конгрессом США (уровень!), призвал законодателей создать механизм регулирования разработок и применения ИИ, для чего необходимо создание специального агентства. В США важные области приданы агентствам, например NASA – это агентство по аэронавтике и освоению космоса. Есть агентство по атомной энергии, по обороне, по здравоохранению ... теперь вот будет, возможно, агентство по искусственному интеллекту. Всё серьезно.

И в Европе пристально следят за развитием ИИ и не закрывают глаза на возможные проблемы. Помимо отдельных национальных ограничений и запретов (во Франции, например, запрещено официальное использование Chat GPT), готовят и общеевропейские законы. Уже написан, но еще не введен в действие закон, регулирующий ИИ (включая Chat GPT) и так называемые «социальные рейтинги».

Последние придуманы для суммарной оценки, в том числе и этической, личностей как членов общества. Они были введены в Китае для маркировки законопослушных граждан. Высокий социальный рейтинг открывает путь к неким общественным благам (банковские кредиты, скидки, более выгодное жилье...). И наоборот, оказавшиеся внизу на рейтинговой шкале реально лишены многих прав. Такая сортировка людей по многим факторам практически невозможна вручную, но вполне по силам ИИ. Причем это деление по принципу свой-чужой как раз и иллюстрирует опасную специфику ИИ – отсутствие морали, этики. В данном случае весь интеллект искусственного интеллекта направлен на аморальную задачу выбраковки неподходящих граждан. Но ... так ведь поведет себя и другая достаточно изощренная программа, созданная и контролируемая человеком, а вот искусственный интеллект способен с какого-то момента своего развития самостоятельно ставить себе задачи. У него могут оказаться «свои» представления о добре и зле, то есть о понятиях, которые запрограммировать практически невозможно. И селекцию людей, социальный рейтинг, ИИ будет проводить уже по собственным критериям. Это совершенно катастрофический сценарий будущего, именно поэтому в ЕС решили вовсе отказаться от идеи социальных рейтингов, от греха подальше.

Вообще регулирование в области отношений между человеком и ИИ оказалось совершенно новым для законодателей делом, к нему приступили почти без подготовки, без длительных предварительных обсуждений – ИИ просто не оставил для этого времени. Так что уже сейчас ясно, что закон в силу непредсказуемости, непрозрачности и сложности выйдет несовершенным, не свободным от правовых пробелов.

Предусмотрено, например, дифференцирование ИИ-технологий по уровню риска, от технологий с низким уровнем (игрушечные машинки под управлением ИИ) вплоть до угрожающих обществу и чреватых непредсказуемыми последствиями.

Тут уместно обратиться к всемирному авторитету в вопросах прогнозирования нашего будущего – израильскому профессору Ювалю Ною Харари. Именно он раньше других заговорил об опасности ИИ для человечества. Более всего Харари обеспокоен возможным образованием «класса бесполезных», то есть людей, чьи знания и навыки могут быть замещены ИИ. В первую очередь это «белые воротнички»: клерки, бухгалтеры, журналисты, вплоть до самих программистов. Он считает, что уже в ближайшие годы ИИ приведет к изменению характера трудовой деятельности, потребуются новые знания.

Центр по вопросам безопасности ИИ в Сан-Франциско (CAIS) утверждает, что угрозы человечеству со стороны искусственного интеллекта имеют безусловный приоритет над другими признанными угрозами: атомной войной и пандемией.

Сейчас на производстве всё в большей мере используются промышленные роботы, устройства самого разного вида, меньше всего напоминающие людей, но полностью заменяющие их. Это выгодно, роботам не требуются передышки, их рабочий день не нормирован, они даже не бастуют. Современные производства в самых разнообразных отраслях становятся безлюдными. Машиностроение, пищевая промышленность, строительство, транспорт, даже сельское хозяйство при росте производства и производительности используют все меньше людей. Торговые предприятия – тоже. Но пока за всем этим стоит человек, инженер, менеджер, хозяин.

На рынке новых технологий царит ажиотаж, технологические гиганты вступили в борьбу за создание более эффективного ИИ. Фирма-производитель чипов из США, Nvidia, совершила гигантский скачок, ее капитализация достигла одного триллиона долларов. Она, а также Google, Microsoft и Meta (Facebook) являются главными выгодополучателями стремительного внедрения ИИ.

Кто знает, когда наступит момент (всё идет к нему с ускорением), когда и на верхнем этаже, управленческом, где принимаются решения, появятся роботы. Создатели ИИ, увлеченные открывающимися перед их технологиями поистине фантастическими возможностями, этот момент могут просто пропустить. Сегодня наиболее дальновидные из них сами боятся такой перспективы.

Всё громче звучат требования жесткого контроля над разработкой и созданием ИИ, предлагают заморозить развитие ИИ на некоторое время, хотя бы на полгода. Но это не решит в принципе проблему и просто нереально. Кто завладеет более совершенным ИИ, тот обретет и деньги, и власть – для отдельных стран, корпораций, фирм и даже личностей стимулы к разработке ИИ слишком сильны.

ИИ стремительно внедряется в военной технике, создаются аппараты без людей для действий во всех средах, «машины смерти». С одной стороны, они сберегают человеческие жизни – в бою гибнет техника, а не люди, с другой – они способны на всё.

Уже измерена статистически обеспокоенность населения разных стран в связи с возможной потери работы из-за ИИ.

Самые беззаботные – индийцы, только 13,9% из них опасаются та свои рабочие места. В Бразилии таковых 19,3%, далее идут Италия – 27,9, США – 29,4, Германия – 30,4, Япония – 38,1, Франция – 41,0 и Голландия – 42,4.

Причем, например, в Германии, около 70% полагают, что плюсы для общества от внедрения искусственного интеллекта превысят минусы. Так это или нет станет известно уже в недалеком будущем, по прогнозам, в ближайшие 5 лет ИИ заместит до 10% всех рабочих мест.

Вообще существует и позитивный взгляд на проблему, точнее несколько взглядов. Некоторые вполне серьезные специалисты утверждают, что никакого искусственного интеллекта пока не существует. Это хайп, раздуваемый прессой, политикой, выгодный очень многим предпринимателям.

Руководитель разработки ИИ в концерне Meta (Facebook) считает, например, что пока ИИ не достигнет интеллектуального уровня собаки, все разговоры об угрозах ИИ, об ИИ-апокалипсисе – это не более, чем раздувание паники.

Так ли это? С очень давних пор существуют мифы, предания и повествования о неких искусственных созданиях, опасных для людей. Тут можно вспомнить легенду о Големе или историю чудовища Франкенштейна ...  Как-то так вышло, что пока человечество не погибло, никто его не покорил.

Тут напрашивается аналогия с экологическим движением Last Generation (Последнее поколение), верящим в скорый конец света из-за рукотворного потепления климата. Многие миллионы верят этим мрачным прогнозам, превратились практически в квазирелигиозную секту,

Но кто знает на самом деле, что случится в будущем?

С. Мучник (Дортмунд)

Читайте также:

1. Что нас ждет – предсказания по-научному. Журнал «Партнёр», № 5 / 2018. Автор С.Мучник

2. Юваль Ной Харари о прошлом, настоящем и будущем. Журнал «Партнёр», № 8 / 2019. Автор С. Шпигель

3. Я не ChatGPT! Журнал «Партнёр», № 5 / 2023. Автор С.Мучник