Что вообще валидирует валидатор
Продолжаю искать рамку взаимоотношений людей и ИИ в образовании и работе. В прошлом посте я закончил на том, согласимся ли мы, что билет одобрения может выдать ИИ. Но сначала надо понять, что вообще делает валидатор — и тогда станет ясно, может ли это делать машина.
Может быть, человеческий разум эволюционировал не для одинокого поиска истины, а для социального обмена аргументами (см. камменты). В одиночку я работаю как машина рационализаций, произвожу обоснования того, во что уже верю. В споре с оппонентом начинается другое — его атаки находят настоящие слабости и укрепляют то, что выдерживает. Разум работает по назначению в диалоге, не в созерцании.
Если это так, то вузовский диплом — это еще и сертификат того, что у тебя были те самые оппоненты. Семинары, экзамены, преподаватель, который сказал «нет, вот тут ты не прав». Долгий контакт работает не только потому что препод тебя помнит, а потому что был настоящим оппонентом, с которым ты реально спорил.
Софты вроде — держать удар, аргументировать позицию, не разваливаться под чужим напором — это не довесок к экспертизе, а среда, в которой экспертиза проверяется человеками.
Тогда вопрос про ИИ-валидаторов становится другим. Не «может ли модель проверить знания», а «может ли модель быть настоящим оппонентом».
А современные модели по умолчанию настроены быть приятными собеседниками, это дефолт индустрии. Модели подкручивают в сторону согласия — это и метрики удержания, и приятная пользователю иллюзия решенной задачи.
То есть технически можно представить модель, с которой я два года реально спорю — которая помнит, какие мои аргументы развалились, а какие я отстоял. Она могла бы сказать, что этот человек умеет защищать свои позиции и это была бы валидация совсем другого порядка. Но архитектурно индустрия движется в противоположную сторону. Мы строим инфраструктуру массовой валидации на моделях, которые натренированы не возражать.
И пока это так, мы получаем машинное производство рационализаций в промышленных масштабах. Корочки всем, кто долго чатился! И тогда свидетельство экспертизы есть у всех, а реально проверенных позиций нет ни у кого.
Так что вопрос не в том, согласимся ли мы, что билет одобрения может выдать ИИ, а согласится ли ИИ нам возражать против собственной архитектуры.