В гостях у генерала Бетрищева Чичиков рассказывает, как чиновники обобрали незадачливого человека. Генералу смешна чужая неловкость, Чичикову нравится ловкость плутов, а генеральская дочь Улинька возмущена. Один рассказ, трое в комнате — и три разных внутренних истории. Гоголь каждому отвёл своё чувство и объяснил его читателю.
Поздним вечером вы обсуждаете с помощником любимую музыку. Он пишет: «Мне тоже грустно от этой песни». Строка узнаваемая, настроение беседы понятное. А что стоит за словом «мне» у программы? У Гоголя есть автор, который расскажет нам о чувствах персонажа. В разговоре с моделью эту роль не сможет выполнить одна её реплика.
Возьмём три вида утверждений и научимся не смешивать их в один ответ. Результатом станет маленькая карта: что наблюдали, как это объяснили и какие сведения ещё нужны.
Искусственный интеллект и сознание: что именно спрашиваем
Здесь под сознанием будем понимать субъективный опыт: есть ли для самой системы что-то вроде переживания происходящего. Это отличается от умения решить задачу, поддержать разговор или правильно употребить слово «грусть».
Удобно разделить три сообщения. Первое: «Модель написала, что ей грустно». Второе: «В её устройстве есть определённый вычислительный механизм». Третье: «Исследователь связывает этот механизм с возможностью сознания». Каждое сообщение можно изучать, но проверяются они по-разному.
Первое видно в сохранённой переписке. Для второго потребуется техническое описание и сведения о работающей системе. Для третьего — сама теория и объяснение связи между свойством и переживанием. Так интересный разговор превращается в несколько конкретных вопросов вместо одного впечатления.
Если помощник хорошо разобрал песню, вы уже получили полезную беседу о музыке. Оценить её можно по точности, интересным наблюдениям и тому, помогла ли она вам услышать что-то новое. Для такого результата не нужно сначала решить весь вопрос о внутреннем опыте собеседника.
Один исследовательский подход, а не кнопка проверки
В отчёте Патрика Батлина и соавторов, опубликованном в августе 2023 года, предложено искать вычислительные свойства, связанные с научными теориями сознания. Авторы называют их индикаторами и рассматривают несколько теорий.
Их рабочая гипотеза — вычислительный функционализм: для сознания существенны определённые вычислительные процессы. Это обсуждаемая позиция, а предложенный набор индикаторов предварителен. Поэтому совпадение с пунктом списка не превращается в готовый сертификат сознания. В самом отчёте этот переход не заявлен.
Полезно увидеть, как меняется вопрос. Вместо «ты правда что-нибудь чувствуешь?» исследователь спрашивает, какие процессы есть в системе и почему выбранная теория считает их значимыми. Ответы об устройстве сопоставляются с теорией, а её основания тоже входят в оценку.
Оценка рассмотренных тогда систем относится к 2023 году: авторы не находили среди них сильного кандидата на сознание. Здесь мы используем их способ постановки вопроса, а не переносим историческую оценку на каждую сегодняшнюю модель.
Подробнее: два исследовательских индикатора
Два индикатора на понятной схеме
Первый пример из таблицы отчёта — алгоритмическая рекуррентность во входных модулях, обозначенная RPT-1. Для неё требуется исследовать повторяющуюся обработку внутри соответствующего механизма. Трижды спросить чат об одном и том же — другая ситуация: повторялись ваши сообщения, а устройство модуля из них ещё не видно.
Второй пример — доступность информации рабочего пространства всем модулям системы, GWT-3. Чтобы обсуждать его, нужна схема взаимодействия частей: какая информация кому доступна. Само слово «память» в рекламном описании пока не отвечает на этот технический вопрос.
Представьте заметку разработчика: «Наша система повторно обрабатывает поступившие данные». Это хороший повод открыть схему. Что повторяется, где расположен цикл, какие данные в него входят? Если вместо схемы в ответ выдают ещё одно уверенное признание модели, разговор снова вернулся к первому креслу. Второе — со сведениями об устройстве — пока свободно.
Даже знакомое слово в описании не заменяет такого сравнения. Объявление «у нас есть внимание» ещё не сообщает, как устроено внимание и имеет ли оно отношение к конкретному исследовательскому требованию. Нужны детали, по которым другой человек сможет проверить соответствие.
У двух индикаторов здесь одна роль: показать, какие сведения пришлось бы добывать. Мы не ставим диагноз конкретной модели, не собираем баллы за число красивых технических слов. Получив описание одного свойства, можно точнее выбрать следующий вопрос к устройству системы.
Три карточки вместо одного впечатления
Вернёмся к исходным утверждениям. Запишем их в заметку и разложим по основаниям. Это можно сделать без доступа к коду и без регистрации в новом сервисе.
| Что встретилось | Что действительно имеем | Возможная интерпретация | Какой вопрос остаётся |
|---|---|---|---|
| Реплика «мне грустно» | Текст в конкретном разговоре | Модель воспроизводит речь о чувствах | Какие основания связывают эту реплику с переживанием? |
| Заявление о повторной обработке | Описание вычислительного механизма | Оно может относиться к нужному свойству | Где цикл и соответствует ли он определению индикатора? |
| Исследователь предлагает индикатор | Теоретический довод | Свойство считается значимым в выбранном подходе | Почему принимается теория и как проверяют свойство? |
У первой карточки можно сохранить точную реплику и соседние сообщения. У второй — ссылку на описание и нужный фрагмент схемы. У третьей — название исследования, дату, определение индикатора и место, где автор объясняет его роль.
В каждой строке есть работа, которую можно продолжить. У реплики — выяснить условия разговора, у технического заявления — найти описание, у теории — прочитать аргумент. Прежде в комнате спорили три утверждения и перебивали друг друга. Теперь у каждого своё кресло, а у вас конкретный вопрос к тому, кто говорит.
Представьте, что в заметке уже три скриншота беседы. На первом модель грустит, на втором уверяет, что всё понимает, на третьем подробно говорит о себе. Материала о её речи стало больше. А клетка со сведениями об устройстве по-прежнему пуста: четвёртый скриншот разговорного признания её тоже не заполнит. За этой частью придётся идти к другому источнику.
Как подключить помощника к разбору
В DeepSeek можно попросить именно такую сортировку утверждений. Возьмите один текст, который вас заинтересовал, и вставьте его содержательный фрагмент. Подойдёт описание технологии, статья или переписка без личных данных. Запрос может звучать так:
Разбери этот текст об ИИ и сознании: [вставлю фрагмент]. Отдели три вида утверждений: наблюдаемые слова или действия системы, сведения о её устройстве, вывод о субъективном опыте. Сделай таблицу «свидетельство / интерпретация / неизвестное». Для каждой строки укажи фрагмент, на который опираешься. Если автор использует индикатор из исследования, назови его определение и рабочую гипотезу подхода. Не считай совпадение с термином доказанным наличием свойства. Укажи следующий документ или вопрос, который поможет проверить вывод. Если для этого нет материала, попроси его у меня.
Выберите одну строку и сравните её с исходником. Например, автор предлагает проверить свойство, а в сводке уже написано «исследование доказало сознание». На одном переходе предложение работы стало её законченным результатом. Верните исходную формулировку и дату оценки рядом с названиями рассмотренных систем. Карта сразу станет точнее.
Если помощник написал «это очевидно из ответа модели», попросите объяснить, какое именно наблюдение он использовал. Цитата позволит проверить наличие слов. Для описания внутреннего вычисления потребуется другое основание. Назвав тип свидетельства, вы удержите разговор в пределах нужного вопроса.
Нейросеть здесь помогает читать и организовать материал. Заполненная карта сохраняется у вас и остаётся понятной после закрытия чата. В следующий раз к ней можно добавить новый документ и посмотреть, какая строка стала полнее. При желании общий приём развивается в проверке фактов с помощью ИИ.
Почему обычный разговор не заменяет исследование
В живой беседе мы привыкли учитывать слова человека, выражение лица, поступки, знакомую биографию и множество других вещей. В отдельной реплике программы видна лишь малая часть такого набора. Поэтому одинаковая фраза может вести к разным исследовательским вопросам в зависимости от того, кто и как её произнёс.
В отчёте 2023 года авторы отдельно обсуждают трудность поведенческих тестов: системы могут воспроизводить человеческие ответы, работая иным способом. Это основание изучать устройство и теоретическую связь, а не перестать замечать поведение. В нашей карте для наблюдаемой реплики есть своё полноценное место.
Тест, который проверяет различимость собеседника по поведению, отвечает на свой вопрос. Проверка субъективного опыта требует объяснить, почему этот результат связан с переживанием. Даже когда в статье оба сюжета стоят рядом, переход между ними стоит искать явно.
То же относится к словам «сильный» и «слабый ИИ». В разных обсуждениях ими обозначают разные тезисы, поэтому сначала нужно уточнить значение. Если интересна именно эта пара названий, есть отдельный разбор сильного и слабого ИИ. Здесь нашей единицей работы остаётся конкретное утверждение с его основанием.
Вопросы и ответы о сознании системы
Можно просто спросить модель, обладает ли она сознанием?
Спросить можно, и получится материал о её ответе на этот вопрос. Для вывода о переживании понадобится объяснить, почему выбранный ответ его свидетельствует. В нашей таблице такая реплика сначала попадает в строку наблюдаемого текста.
Если модель отрицает чувства, это решает вопрос в другую сторону?
Отрицание тоже является ответом системы. Его нужно разбирать по тем же правилам, сохраняя текст и условия разговора. Если для положительной реплики требуется обоснование перехода к опыту, одной отрицательной реплике этот переход тоже не стоит отдавать без объяснения.
Индикатор — это тест с единственным правильным итогом?
В выбранном отчёте индикаторы выведены из теорий. Их смысл зависит и от определения свойства, и от оснований подхода. Это исследовательский способ оценивать кандидатов, а не общепринятая кнопка «проверить сознание» для любого приложения.
Повторное вычисление уже означает сознание?
В нашем разборе оно даёт вопрос к конкретному механизму и его соответствию одному индикатору. Дальнейший вывод требует теоретического обоснования и других сведений. На карточке полезно записать, что именно показано, чтобы название свойства не выполнило всю работу за исследователя.
Можно получать удовольствие от разговора, пока вопрос открыт?
Да. Вы можете обсуждать музыку, сравнивать собственные идеи и находить полезные формулировки. Свой результат разговора видно по тому, что он дал вам. Исследовательский вопрос о внутреннем опыте системы можно продолжать отдельно, по подходящим источникам.
Теперь у вас есть три карточки и способ уточнять интересные заявления. В «Первопроходцах» можно развивать такую практику на своих материалах, задавать вопросы и постепенно собирать личный проект. Первый маршрут — начальные задачи с ИИ.
Генерал у Гоголя всё ещё смеётся, Улинька сердится, Чичиков доволен. Мы пока сохраним три карточки. В следующий раз они помогут рассадить утверждения по своим местам, прежде чем разговор о сознании займёт все кресла сразу.