Язык без смысла

[Мария]

Язык без смысла: как ИИ показал, что мы ошибались почти во всём

Эта история началась вовсе не с философских изысканий, а с удивления – почти детского. К 2022–2023 года стало очевидно: эти большие языковые модели вдруг заговорили… слишком хорошо. Пишут эссе, спорят, объясняют, шутят. И делают это системы, лишенные тела, восприятия, жизненного опыта.

Никогда ничего не видели, не трогали, не страдали и не радовались – а говорят так, будто всё это прекрасно понимают. Многие, конечно, восхитились, но кое-кому это показалось… подозрительным, даже тревожным.

Элан Баренгольц, человек, далёкий от инженерных забав и стартапного ажиотажа, – когнитивный учёный и философ, который годами изучал связь языка и мышления. Его интересовала вовсе не «умность» этих моделей, а куда более странный вопрос: что вообще мы подразумеваем под словом «смысл»? И эти LLM стали для него не просто технологией, а экспериментом, который человечество, само того не ведая, поставило над собой. Этот ученый увидел в них не инструмент, а зеркало, отражающее нашу собственную иллюзию.

Он не утверждает, что модели глупы. Напротив – они слишком хороши, до тошноты совершенны. Они показали, что связный, убедительный, логичный язык может существовать без какого-либо понимания мира. Не "плохой" язык, не бессмыслица, а вполне нормальная, рабочая речь. И это, знаете ли, разрушило старую интуицию, десятилетиями господствующую в философии: о том, что язык должен быть прочно связан с реальностью, с опытом, с какими-то значениями, заключенными в голове. И в этом он действительно прав, нужно признать.

Эта мысль, как ни странно, оформилась в беседе с Кёртом Джаймангалом, ведущим подкаста "Theories of Everything". Кёрт, человек с физическим образованием и философской душой, любит доводить идеи до предела. Их разговор получил название, вроде "Язык без смысла" – не потому, что язык плох, а потому, что смысл, возможно, не совсем тот, каким мы его себе представляли. И это, знаете ли, заставляет задуматься, даже если вы физик или философ.

Ключевая идея Баренгольца, если вкратце, такова: язык – это самодостаточная система форм, а не окно в реальность. Слова могут быть связаны в сложные структуры, поддерживать друг друга, объяснять друг друга – и при этом ни к чему "вне языка" напрямую не отсылать. LLM – живое тому доказательство. Они не знают, что такое "стул", но идеально знают, как о стуле говорить. И это, признаться, выглядит несколько жутковато.

И вот здесь начинается самое неприятное. Если язык может работать без смысла в модели, то откуда уверенность, что человеческий язык всегда наполнен смыслом? Может быть, большая часть того, что мы считаем "пониманием" – это тоже умение оперировать структурами, привычными паттернами, социально согласованными формами речи? LLM не доказали, что люди – машины. Они показали, что машины могут делать то, что мы считали признаком глубинного понимания. И это, я вам скажу, не очень приятная перспектива.

Баренгольц, конечно, не утверждает, что у людей нет смысла или опыта. Его тезис куда тоньше и опаснее: смысл не встроен в язык автоматически. Он возникает где-то на стыке тела, восприятия, культуры и интерпретации. А язык сам по себе – может быть, просто форма, оболочка, интерфейс. Очень мощный, очень убедительный, но не гарантирующий понимания. И это, признаться, заставляет пересмотреть свои взгляды на мир.

Поэтому эту идею и назвали "нашей самой большой иллюзией". Мы веками думали: если что-то хорошо сказано, значит, это понято. Если аргумент логичен – значит, за ним стоит реальность. LLM показали, что это не обязательно так. Можно идеально играть в игру языка, не находясь в мире, о котором говоришь. И в этом, знаете ли, вся соль.

И вот здесь разговор перестаёт быть про ИИ. Он становится про нас. Про то, как часто мы путаем беглость речи с глубиной мысли. Как легко приписываем "внутренний мир" там, где есть только хорошо выученные формы. И как, возможно, смысл – это не свойство слов, а хрупкое, редкое явление, которое возникает не всегда, даже когда всё звучит очень умно. И это, я вам скажу, повод для серьезных размышлений.

По тексту Вадима Павлова из запрещенной метасети