Естественные вопросы об искусственном интеллекте

С замечательным образовательным проектом, Школой «Ковчег без границ», я сотрудничаю уже два года, и удивление вызывает не только то, как быстро идёт время, но и то, насколько лёгким, доверительным и уважительным может быть взаимодействие солидарных друг с другом людей. Здесь почти нет никакой иерархии, и если есть отношения между учениками и учителями, то они взаимопоучительны. Ученик может, конечно, чего-то не знать, но то, как он включен в диалог с преподавателем, о чем его спрашивает, в чем заинтересован, и то, как он сам мыслит, является неотъемлемой частью общения. Не только ученику, но и учителю может быть интересно со своими учениками, и как только устраняется иерархия из отношений и устанавливается режим диалога, этот интерес быстро прибывает.

Не удивительно, что в «Ковчеге» мне особенно комфортно, в силу тех дисциплин, которые я преподаю. Я веду общий ознакомительный курс по философии для подростков («Философия для Тинейджеров») и взрослых. Часто в числе взрослых оказываются школьные учителя или даже университетские преподаватели, для которых курс представляет собой возможность поделиться опытом, но чаще всего это обычные люди, которые любят философию и хотят познакомиться с ней поближе. Философия – одна из самых демократичных дисциплин и форм организации человеческой любознательности, поэтому отсутствие искусственной субординации здесь только помогает. Мы беседуем о том, о чем часто слушатели просто не успевают поразмышлять на протяжении своего обучения более прикладным дисциплинам и квалификациям.

Философия является одной из собственно человеческих форм знания, но не во всех образовательных системах, особенно школьного образования, ей уделяется должное внимание. Из всех европейских стран наиболее трепетное отношение к философии как неотъемлемой части школьного образования демонстрирует Франция. Германия, в которой очень сильны философские традиции и которая является отчизной для целого ряда философских направлений, даже включает философию в систему школьного образования – ее преподают в гимназиях задолго до начала университетского образования. Но далеко не во всех странах дела обстоят именно так. Кое-где философию ассоциируют с весьма трудоемкой областью знания и предпочитают откладывать на потом. А еще где-то в ней могут усмотреть опасного вольнодумца, и от греха подальше, заменить на «разговоры о важном». Но в «Ковчеге» не боятся ни того, ни другого – ни умеренной сложности, ни свободомыслия, так что режим для преподавания философии – наиболее благоприятный.

Какие же сюжеты мы обычно разбираем в нашем курсе? Как правило, это наиболее волнительные темы – о свободе воли, о природе сознания, о статусе реальности, о границах нашего познания, о сущности времени, о сущности Я и, собственно, человека и, конечно, о перспективах человека и человеческого сознания в условиях стремительного развития искусственного интеллекта. Последняя тема, пожалуй, более всего волнует молодое поколение, поскольку не только провоцирует нас своими ошеломительными успехами, но и повергает в некоторое беспокойство – открываем ли что-то такое, о чем потом придётся жалеть, или напротив, в новой цифровой реальности человек, наконец, ответит на все ранее не отвеченные вопросы.

Надо сказать, что большинство современных бесед о природе искусственного интеллекта касаются этических проблем – как уживаться с мощным компьютерным двойником, который может уже слишком много, чтобы мы могли считать его просто полезным устройством. А если он кого-то собьёт, назначит неверное лечение, разгласит конфиденциальные данные, предложит неудачный путь профориентации, выпишет неверный штраф или вынесет несправедливое судебное решение?

Искусственный интеллект в своих решениях сплошь и рядом воспроизводит дискриминационные шаблоны, различного рода предвзятости, погрешности и мифы, в плену которых находятся разработчики или пользователи. Самообучающиеся системы учатся чаще на основе неэтичных примеров поведения, потому что видят их статистически чаще, чем моральный эталон и нравственные принципы, составляющие идеал стремления.

Наконец, бурное развитие искусственного интеллекта может менять саму человеческую природу, его сознание и привычки, уже не системы искусственного интеллекта подстраиваются под человека, но человек подстраивается под своего цифрового двойника, поскольку в противном случае он попросту не попадает в ту форматную рамку, в которой искусственный интеллект может быть по-настоящему полезным.

Таков далеко неполный список вопросов, который разбирает такая дисциплина как «Этика Искусственного Интеллекта (ИИ)», кстати говоря, представленная в школе «Ковчег» в курсах серьёзных специалистов в данной области. Но я в своих курсах больше люблю останавливаться на собственно философских вопросах, связанных с искусственным интеллектом, а именно: мыслит ли машина и сможет ли человечество когда-либо полностью синтезировать мыслящую личность, отменит ли искусственный интеллект т.н. естественный, продемонстрировав улучшенную версию последнего.

Одна из таких проблем посвящена дискуссии о том, как обрести окончательную ясность в том, что такое смысл и что такое понимание, чтобы попытаться обрести точный критерий того, в каком смысле мы можем всерьёз обсуждать «мышление» машины. Но это как раз труднее всего сделать.

Проблема заключается в том, что отличие машинного понимания от человеческого нельзя даже удовлетворительно формализовать: какой бы отличительный критерий мы ни придумали, через некоторое время программисты успешно программируют найденное отличие. Между тем интуитивно мы чувствуем, что созданный машинный аналог не является «мыслящим субъектом», и пытаемся сформулировать новый критерий отличия, но вновь программисты оказываются на высоте. Однако вскоре приходит понимание, что цель полученной эмуляции (имитации) всё равно не достигнута и, следовательно, предложенный критерий был неверным.

Отсюда напрашивается уже сугубо философский аргумент: мы предлагаем не совсем адекватные критерии потому, что сами не понимаем, как устроены механизмы сознания и какими мыслительными способностями мы владеем. В частности, мы до конца не понимаем, как схватываем смыслы. Но в той же мере, в какой мы сами не знаем, чем отличаемся от машин, не ясно, как это отличие можно было бы задать программе.

Всё, что мы действительно знаем о себе, можно успешно эмулировать, но это будет лишь часть человека, фактически не представляющего некоторых глубинных механизмов собственного устройства. Для полноты же картины наблюдателю пришлось бы выходить за пределы собственного мира.

Мы попытаемся показать верность этого тезиса на примере нечёткой семантики естественного языка, которая хуже всего дается машинному интеллекту. По-видимому, это связано с тем, что в программировании язык – это абстрактная форма представления вычислений с однородным синтаксисом; для сознания же естественный язык – это форма фиксации таких содержаний, которые непосредственно не даны. Как кажется, при обработке данных человеческий интеллект подключает уровень т.н. «метафизического смысла» (того, что после физики), который позволяет не просто констатировать вещи/факты (на синтаксическом уровне фиксации значений), но и понимать их благодаря скрытому вопросу «Почему эти вещи/факты в принципе есть?».

Таким образом, к человеческой когнитивной системе подключается такая странная способность, как встраивание в неоднородный контекст благодаря интуиции метафизического смысла. На этом пути антропоморфный (человекообразный) агент обращается к ассоциативным и метафорическим связям, а также произвольно обрывает синтаксические связи. Напротив, машинные интеллектуальные процедуры имитируют семантические процессы (изменение значения слов) за счёт обращения к формальным моделям синтаксиса, а также за счёт колоссального объёма баз данных, которые предписывают пробегать полный путь от одного значения к другому. По сути, машинный разум не контактирует ни с предметным миром, ни с миром смысловых репрезентаций значения, но лишь с информацией и правилами вывода.

Программа не понимает, что такое синий цвет или вода, не потому, что не имеет опыта наблюдения этого объекта, а потому, что не видит разницы между вопросами «Что значит, что небо синее?» и «Какой смысл в том, что небо синее?». При всей своей содержательной нечеткости именно второй тип вопросов, которые лучше всего назвать метафизическими, делает возможным понимание.

Семантика естественного языка фиксирует пока необъяснимую связь вопросов о смысле сущего (в пределе имеющих вид фундаментального метафизического вопроса «Почему всё, что существует, существует?») и значения. И в той мере, в какой мы сами не до конца отдаем себе отчет в том, как именно мы что-либо понимаем (например, мы не контролируем произвольный разрыв цепочки пояснений и лишь пассивно регистрируем акты своего понимания), мы затрудняемся создать компьютерную модель схватывания смысла, а именно компьютерную модель по-настоящему интеллектуальной работы.

Во многом трудности программирования смысла связаны с тем, что если присмотреться к нашей интуиции смысла, то мы увидим, что данная категория является ценностной, а не только логической или эпистемической (относящейся к знаниям). Когда мы спрашиваем: «Какой в этом смысл?», мы фактически спрашиваем: «Почему это важно?» или «Почему это ценно?», «Чем это дорого?», но для того, чтобы подобный вопрос задать, нужно иметь определенный пласт ценностей, т.е., если угодно, иметь свою этику. Ценностная трактовка смысла, в свою очередь, требует выделения фигуры субъекта, а также делает смысл проблемой прагматики, где смысл фиксирует отношение значения к потребностям субъекта. Однако вопрос субъектности и моральности компьютеров является отдельной большой проблемой.

Так, ставя вопрос о будущем человеческого мышления в условиях всё более плотной окруженности искусственным интеллектом, мы понемногу выходим и на другие философские темы – к тому, что есть понимание, что мы называем смыслом, сознанием свободой, что мы знаем о самих себе, а если пока не знаем, то можем получить в качестве позитивного знания. В конечном итоге у нас получается всё вполне по классическим философским канонам – задаваясь любыми, подчас самыми абстрактными вопросами, мы, в конечном итоге, приходим к главному: «что такое человек?» – вопросу, которому немецкий философ И. Кант придавал определяющее значение.

Благо, в школе «Ковчег» не зазорно выбирать различные траектории поиска истины, главное, чтобы интрига и жажда познания сохранялась на всем пути следования.

ДианаГаспарян, PhD (Staffordshire University)

Читайтетакже:

1.  Онлайн-школа «Ковчег без границ» представляет свои курсы. Журнал «Партнёр», № 6 / 2024.
2. ИИ шагает по планете. Журнал «Партнёр», № 7 / 2024. Автор С. Мучник
3. Искусственный интеллект – самая опасная опасность? Журнал «Партнёр», № 7 / 2023. Автор С. Мучник
4. Я не ChatGPT ! Журнал «Партнёр», № 5 / 2023. Автор С. Мучник