У Оруэлла животные приходят смотреть на чертёж будущей мельницы. Валы и колёса производят впечатление даже на тех, кто в устройстве ничего не понимает. Сложное зрелище уже действует, хотя до понимания ещё далеко. С разговорами об искусственном интеллекте бывает похоже: увидели эффектный ответ и сразу хочется найти для него большое слово.
Допустим, за столом обсуждают искусственный интеллект. На ноутбуке шахматная программа только что забрала вашего ферзя, а в соседнем окне готово письмо учителю. Вы называете первого помощника «слабым», и в разговоре повисает неловкость: ферзь-то лежит у него. Второму достаётся слово «сильный», хотя в письме ещё надо поправить дату. Разные свойства оказались под одной парой ярлыков.
Разберём три системы: шахматную, работающую с разными задачами и отвечающую по формальным правилам. К концу у каждой будет своя карточка: что она показала, какое слово к этому подходит и какой вопрос стоит задать дальше. Такой разбор пригодится и для статьи в интернете, и для обычного разговора дома.
Сильный и слабый ИИ: сначала договоримся о смысле
Когда сравнивают узкий и общий интеллект, смотрят на круг возможностей. Узкая система работает в ограниченной области: например, выбирает ходы в шахматах. Общая должна справляться с широким кругом задач и переносить умения в новые ситуации. Здесь главный вопрос — какие дела ей доступны и насколько хорошо они получаются.
В популярном пересказе узкий ИИ часто называют слабым, общий — сильным. Для начала это позволяет ухватить различие. Но слово «слабый» легко сбивает: ограниченная область никак не мешает выдающемуся результату внутри неё. Шахматный специалист может играть гораздо лучше своего владельца и при этом вовсе не заниматься письмами.
Есть и другое употребление. В философии сильный тезис связывает подходящую программу с буквальным пониманием и другими состояниями ума. Слабый подход видит в компьютере полезный исследовательский инструмент. Это уже вопрос о том, что означает работа программы, а не о количестве выполненных поручений.
Круг задач и качество результата можно изучать отдельно от философского вопроса о понимании.
Поэтому я предлагаю держать в разговоре простые подписи: «широта возможностей» и «тезис о понимании». Если собеседник произносит «сильный», спросите, какую из них он имеет в виду. Дальше получится обсуждать одну мысль за раз, не перетаскивая спор между двумя значениями.
Что называл сильным тезисом Джон Сёрл
В статье «Умы, мозги и программы» 1980 года Сёрл противопоставил два подхода. Для слабого ИИ компьютер помогает точнее формулировать и проверять гипотезы об уме. Согласно сильному тезису, подходящая программа буквально обладает пониманием и другими когнитивными состояниями; программа тем самым объясняет познание.
Сёрл оспаривал второй тезис с помощью «китайской комнаты». Представьте человека, который не знает китайского. Ему дают знаки и подробные правила на понятном языке: какие знаки с какими сопоставлять и что выдавать в ответ. Снаружи ответы могут выглядеть как ответы знающего язык человека. Изнутри исполнитель всё ещё занят следованием правилам.
Автор хотел показать разрыв между формальными операциями и пониманием смысла. Это позиция Сёрла в философском споре, а не установленный запрет на искусственный разум. В том же тексте рассматривается возражение: возможно, понимает вся система, хотя отдельный исполнитель не понимает. Для нашей задачи важно увидеть, о чём именно спорят. Круг поручений и рекорд в игре сами этот спор не решают.
Вернёмся к столу. Фраза «программа поняла просьбу и составила письмо» в быту вполне удобна: мы описываем удачный результат. Если же из неё делают утверждение о буквальном внутреннем понимании, смысл разговора меняется. Теперь потребуются отдельные определения и аргументы, а пример письма останется примером письма.
Широта и качество — две разные оси
Теперь займёмся возможностями. Здесь полезна схема из работы Levels of AGI. Авторы предлагают раздельно смотреть на глубину результата — насколько хорошо система справляется — и на широту круга задач. Получаются две оси, а не одна лестница от «плохого компьютера» к «почти человеку».
Возьмём наш шахматный пример. По одной оси можно подняться высоко: выигрывать у сильных соперников, находить сложные продолжения. Но пока показана только игра, по оси широты мы далеко не продвинулись. Новая победа улучшает свидетельство о качестве игры. Она не добавляет проверку писем или планирования дня.
Теперь другая система: ей предложили написать поздравление, объяснить задачу и составить расписание. Здесь уже несколько разных дел. Однако перечень сам по себе тоже неполон. Поздравление может быть тёплым, объяснение — путаным, а расписание — с двумя событиями в одно время. Широту увидели, качество каждого результата ещё нужно рассмотреть. Умение составить расписание пока выглядит щедро: помощник успел разместить человека сразу в двух местах. Осталось вернуть в план его единственный экземпляр.
Высокий уровень в одной области и работа в разных областях описывают разные свойства. На схеме нет рейтинга конкретных сервисов.
Вместо «умеет всё» полезно сказать: «Показаны такие-то задачи, а результат проверили так-то». Возьмём план выходного: прогулка заканчивается в парке, а встреча через пять минут начинается на другом конце города. По форме расписание готово. По человеческой задаче в нём недостаёт дороги. Проверить это можно, даже не выбирая большого слова для всей системы.
AGI обычно расшифровывают как общий искусственный интеллект. В разных определениях отличаются требования к уровню и кругу умений. Авторы упомянутой работы предлагают свою систему оценки; это полезный способ задавать вопросы. Исторические примеры моделей в её таблице относятся к своему времени. Мы используем две оси, а сегодняшним сервисам по старой таблице места не присваиваем.
Три карточки: что показано и какой вывод подходит
Соберём наши случаи рядом. Это придуманные условия для разбора понятий: названия конкретных продуктов здесь только отвлекали бы от смысла. У каждой карточки заранее известен показанный результат.
| Система и показанное действие | Как описать возможности | Какой вывод требует отдельной опоры |
|---|---|---|
| Шахматная: успешно играет с сильными соперниками | Высокий уровень в узкой области | Перенос на письма, планы и другие задачи |
| Многозадачная: делает письмо, объяснение и расписание | Показана работа с несколькими разными задачами | Качество каждой работы и более широкое обобщение |
| Формальная: выдаёт ответы по правилам сопоставления знаков | Показано выполнение процедуры | Буквальное понимание смысла в споре о сильном тезисе |
Каждый показанный результат ведёт к своему следующему вопросу. Это три случая для разбора, а не ступени одного рейтинга.
У первой системы слово «узкая» не отнимает победы. Ей можно поручить именно ту работу, в которой она полезна. Вторая интересна тем, что один способ общения открывает несколько дел. Третья помогает заметить, где разговор о внешнем результате переходит в вопрос о понимании.
Теперь попробуйте поменять карточки местами. Смысл каждой сохранится: никакой лестницы от шахмат к комнате со знаками здесь не было. Формальная процедура может входить в разные системы; в нашем разборе она нужна для вопроса о понимании. А для оценки возможностей вернёмся к кругу задач и качеству. Разложенные рядом вещи удобно сравнивать, но от соседства они не становятся стадиями одного превращения.
Что спросить у шахматного чемпиона
Представим подпись к демонстрации: «ИИ победил сильного игрока, значит, стал универсальным». Разберите её на две части. Сначала — победа в игре. Для неё интересны условия партии, соперник, доступное время и повторяемость результата. Затем — вывод о широте. Для него понадобятся другие задачи и их результаты. Новая шахматная партия продолжит проверять игру.
Хорошая короткая формулировка звучит так: «Показана сильная игра в шахматы; о других делах в этом примере сведений нет». Она сохраняет достижение и помогает выбрать следующий опыт. Можно спросить автора демонстрации именно о переносе: какое новое дело система осваивала и как проверяли, что получилось.
Что проверить у помощника на весь день
Теперь пусть система берётся за три домашних поручения. Письмо учителю должно содержать ваши обстоятельства, объяснение задачи — верную последовательность, а план субботы — учитывать время. Для каждого дела есть свой признак хорошего результата. Проверка двух событий в календаре не расскажет, насколько точно разобрана арифметика.
Если цель — выбрать помощника для себя, возьмите разные дела из собственной жизни. В письме проверьте адресата, дату и смысл просьбы. В объяснении попросите показать переход между двумя непонятными действиями. В плане дня найдите время на дорогу. Сохраните исходные просьбы и отметьте, где помогло уточнение. Получится собственная карта возможностей: она подскажет, какое дело можно продолжить с помощником уже сегодня.
Что означает ответ из комнаты со знаками
В третьем случае снаружи видны входящие и исходящие знаки. Правильность ответа можно оценивать по выбранному правилу. Вопрос о понимании относится к другому слою объяснения: достаточно ли соответствующей процедуры, чтобы приписать системе буквальное понимание? В этом месте и начинается философское обсуждение, связанное с сильным тезисом.
Такое разделение удобно даже вне спора. Когда вы говорите «помощник меня понял», можно иметь в виду совсем практическое: сохранил просьбу, учёл ограничения и предложил подходящий вариант. Этот бытовой критерий помогает работать дальше. Его стоит просто назвать, если разговору грозит долгий спор о значении слова.
Попросить ИИ разобрать громкое заявление
Сам помощник может помочь с терминами. Откройте DeepSeek и вставьте короткий открытый фрагмент статьи или своё описание демонстрации. Не нужен предварительный реферат: достаточно того предложения, в котором встретилось непонятное «сильный» или «общий».
Помоги разобраться в этом заявлении об ИИ: [вставлю фрагмент]. Сначала объясни, в каком смысле здесь употреблены слова «сильный», «слабый» или «общий»: широта возможностей либо тезис о буквальном понимании. Отдельно выпиши, что автор действительно показал. Затем назови признак качества для этой задачи и один следующий вопрос, который помог бы оценить сделанный вывод. Если контекста мало, задай мне один уточняющий вопрос. Не присваивай системе статус по одному красивому примеру.
В ответе ищите разделение утверждения и примера. Если помощник сам написал «это точно общий интеллект», спросите, на какие показанные задачи и условия он опирается. Вы сверяете разбор с исходным фрагментом, который лежит перед вами. Для проверки спорного факта пригодится отдельный приём проверки ответа ИИ по источникам.
Тот же текст можно отправить привычному ChatGPT или Claude, если вы уже там работаете. Платная подписка не является предварительным условием такого разговора. Здесь ИИ помогает разобрать формулировку; окончательную карту вы получаете, сопоставив его ответ с материалом.
Вопросы и ответы о сильном и слабом интеллекте
Почему слабый ИИ способен играть лучше человека?
В употреблении про узкую специализацию слово говорит об ограниченном круге задач. Уровень внутри этого круга может быть высоким. Поэтому яснее называть такого игрока узким специалистом и отдельно обсуждать его силу игры.
Общий интеллект обязательно обладает сознанием?
Определение через широкие возможности само по себе задаёт требования к выполняемым задачам. Вопрос о сознании потребует своего определения и свидетельств. В этой статье сравниваем термины, а способы исследовать сознание составляют отдельную тему.
Если ИИ поддерживает разговор на любую тему, этого достаточно?
Сначала уточните, что означает «поддерживает» и как оценено качество. Продолжить текст, дать точное объяснение и решить новую задачу — разные требования. Несколько удачных реплик помогают описать эти реплики; широкое заявление требует соответствующей проверки.
Сильный тезис Сёрла и AGI означают одно?
Эти выражения относятся к разным линиям обсуждения: буквальному пониманию и общности возможностей. В конкретной статье автор может связывать их своим определением. Найдите это определение, и станет ясно, что именно он предлагает доказать или измерить.
Большому слову найдётся точный вопрос
Разговор об ИИ становится интереснее, когда за словом видна работа. Можно выбрать три собственных дела, попробовать помощь и узнать, какие уточнения меняют результат. С этого и начинается практика для знакомства с ИИ. В «Первопроходцах» можно задавать вопросы, развивать свои проекты и учиться постепенно; раз в две недели проходят эфиры, Никита лично проверяет проектные работы. Условия и путь к участию — на странице клуба.
А три карточки можно оставить рядом с ноутбуком: что умеет, насколько хорошо, какой смысл мы вкладываем в «понимает». Шахматному чемпиону вернём законную силу, расписанию — время на дорогу. И даже перед чертежом размером в полсарая сможем спросить, какое колесо что крутит.