Искусственный интеллект может обмануться в поисках жизни

Человечество обладает множеством мощных инструментов в своем когнитивном арсенале. К ним относятся язык, абстрактное мышление, теория разума и многие другие аспекты, определяющие нас как вид. Одним из самых мощных инструментов является распознавание образов, которое лежит в основе нашего восприятия и позволяет быстро реагировать на угрозы выживанию.

Однако распознавание образов может быть подвержено ошибкам. Явление парейдолии, например, заставляет нас видеть узоры, которых на самом деле нет. Мы можем увидеть лицо в обычном камне, как, например, «Человек на Луне», или найти религиозные фигуры в куске хлеба.

Распознавание образов, по сути, является основой для всех систем искусственного интеллекта (ИИ). ИИ способен обрабатывать огромные объемы данных быстрее, чем человек, и выявлять значимые паттерны. Однако, как показывает новое исследование, ИИ также может ошибаться, когда речь идет о выявлении жизни — задаче, которая станет актуальной для будущих космических миссий.

Исследование под названием "Может ли ИИ обнаружить жизнь? Уроки из искусственной жизни" будет представлено в августе 2026 года на Конференции по искусственной жизни в Ватерлоо, Канада. Авторы исследования — Анкит Гупта и Кристоф Адами из Университета штата Мичиган.

"Современные методы машинного обучения были предложены для обнаружения жизни в внеземных образцах, основываясь на их способности различать биотические и абиотические образцы", — пишут Гупта и Адами. В их работе показано, что эти системы могут с 100% уверенностью утверждать, что изучаемый образец является живым организмом, даже если это не так. "Это связано с тем, что современные методы машинного обучения легко обманываются образцами, находящимися вне распределения."

Что такое образец, находящийся вне распределения? Системы машинного обучения обучаются на наборах данных, имеющих определенные распределения. Например, если ИИ обучен распознавать собак и кошек, что произойдет, если он встретит лошадь? Лошадь окажется вне распределения. Уверится ли ИИ, что лошадь — это собака?

Это простой пример, но что произойдет, если ИИ будет tasked with differentiating между живыми и неживыми на молекулярном уровне? "Поскольку внеземные образцы, скорее всего, будут находиться вне распределения, предоставленного земными биотическими и абиотическими образцами, использование методов ИИ для обнаружения жизни, вероятно, приведет к значительным ложным положительным результатам", — отмечают авторы.

В будущих миссиях ИИ будет поручено обнаружение жизни. Поскольку мы не знаем универсальной химической биосигнатуры, ведется работа по пониманию того, какие молекулы являются живыми на основе основных свойств жизни.

"Одним из таких свойств является то, что жизнь должна кодировать информацию", — сказал Кристоф Адами, соавтор исследования, в пресс-релизе.

ДНК — это молекула, которая кодирует и передает информацию. Исследователи использовали этот факт, чтобы проверить, насколько хорошо ИИ может различать молекулы, способные обрабатывать информацию, и те, которые этого не могут. Первые являются живыми, а вторые — нет.

Для этого они использовали программное обеспечение под названием Avida Digital Evolution Platform (Avida). Это платформа искусственной жизни, которую ученые используют для изучения эволюционной биологии. С помощью Avida исследователи создают цифровые организмы — самовоспроизводящиеся компьютерные программы, которые мутируют, конкурируют за ресурсы и эволюционируют искусственно. Это мощный инструмент, позволяющий изучать естественный отбор и адаптацию внутри компьютера.

Внутри этого микропроцессорного пети-риша цифровые организмы многократно воспроизводят себя, и каждый раз в процессе происходит небольшая ошибка или мутация. Компьютерный код изменяется, как и генетический код живых организмов.

Исследователи начали с генерации десятков тысяч цифровых организмов. Некоторые из них содержали инструкции, позволяющие им воспроизводить себя, другие — нет. Эти образцы составили распределение, и исследователи обучили свою нейронную сеть распознавать их как живые или неживые. Нейронная сеть правильно различала оба типа с точностью 99,7%.

С установленным образцом исследователи затем ввели образцы, находящиеся вне распределения — молекулы, на которых нейронная сеть не была обучена. "Здесь мы используем Искусственную жизнь, чтобы проверить, может ли ИИ-классификатор... быть обманутым в неправильной классификации потенциальной молекулы биомаркера, которая является полимером, построенным из определенного алфавита", — пишут исследователи.

Они начали с введения в нейронную сеть цифрового организма, который она легко распознала как неспособного к самовоспроизводству. Затем они постепенно заменяли части кода организма, которые удерживали его от воспроизводства. ИИ запутался, и всего за 150 изменений в коде он с уверенностью заявил, что обнаружил жизнь, хотя цифровой организм не мог воспроизводиться. "Мы обнаружили, что все запуски приводили к 100% уверенности в обмане уже после 150 запросов модели", — отмечают авторы.

"Независимо от того, с какой последовательности команд мы начинали, мы смогли обмануть ИИ 100% времени", — сказал Гупта, аспирант в области компьютерных наук и инженерии в MSU.

Существует огромное количество последовательностей команд, которые могут обмануть систему. "Вероятность столкнуться с такой последовательностью значительна", — добавил Адами.

Представьте себе ровера на астробиологической миссии на Марсе или в другом месте. Его ИИ обучен на данных о земных организмах. Существует высокая вероятность, что он столкнется с чем-то, что находится вне его образца распределения. В таком случае он может заявить об обнаружении жизни, даже если это не так. Мы узнаем правду лишь позже, после того как данные будут проверены человеческим разумом.

"У ИИ есть ахиллесова пята", — сказал ведущий автор Адами. "Он может увидеть паттерн и полностью ошибиться в классификации". Эти слова имеют значение. Адами является не только профессором в департаментах микробиологии и молекулярной генетики, а также физики и астрономии MSU, но и одним из первоначальных разработчиков программного обеспечения Avida.

Следующий шаг исследователей — обучить свой ИИ на реальных данных и посмотреть, насколько легко его обмануть.

Большинство из нас использовали LLM и наблюдали, как он с уверенностью заявляет о чем-то, что не является правдой. Это может быть не столь важно, когда речь идет о поиске ресторана в незнакомом городе или вопросах о вулканизированной резине. Но когда ИИ играет ключевую роль в многомиллиардной научной миссии на другую планету, ставки значительно выше.

"Мы приходим к выводу, что если ложные положительные результаты (ложные высоко уверенные фиксированные точки) превышают истинные положительные в образцах из внеземных измерений (поскольку они находятся вне распределения, на котором был обучен ИИ), мы рискуем принять высоко уверенные классификации за чистую монету", — объясняют авторы.

Это исследование подчеркивает важность наличия проверяющего факта. Это не означает, что ИИ не имеет ценности, просто у него есть свои ограничения.

"Необходимо иметь независимый способ проверки их работы", — сказал Адами. "Человек должен быть вовлечен в процесс".

Это может быть весьма сложно реализовать в космических миссиях. Ровер Perseverance собирает и кэширует образцы для будущего, надеемся, возвращения на Землю. Что, если другой более продвинутый ровер сделает то же самое, но использует ИИ для распознавания признаков инопланетной жизни в своих образцах? Хотя это вызовет волнение, мы действительно не узнаем, пока образцы не достигнут лабораторий на Земле.

Ложный положительный результат будет не просто неудобством. Это может оказаться разрушительным. "Это очень серьезная уязвимость", — сказал Адами.

"Если доказанная уязвимость методов ИИ к ложным положительным результатам вне распределения будет применима к поиску жизни, использование таких методов в космических миссиях имеет высокую вероятность подорвать общественное доверие к астробиологическим миссиям", — заключают авторы.