В последние месяцы в научно-технической среде активно обсуждают три независимых друг от друга тренда: прогресс в автономной сборке роботов, использование органики как топлива для машин и непредсказуемость современных систем искусственного интеллекта. Если соединить эти технологии, картина будущего начинает напоминать постапокалиптические сценарии.
Мы изучили последние научные публикации и отчеты (далее — «источники»), чтобы понять, насколько оправданы опасения о выходе автономных систем из-под контроля.
Содержание
Что случилось? Почему об этом заговорили именно сейчас?
Тревогу вызвали сообщения о том, что человечество подошло к «фатальной ошибке» — объединению трех критически важных технологий в одной системе. Речь идет о автономном воспроизводстве — роботы уже способны собирать сложные механизмы без участия человека.
Также разработаны системы, позволяющие роботам перерабатывать органическую материю в энергию (например, через микробные топливные элементы или MFC), что называется энергетической автономностью.
Также тревогу вызывают непредсказуемость ИИ. Отчеты за январь 2025 года, которые указывают на рост числа «артефактов» и сбоев в поведении ИИ, которые делают его решения труднопрогнозируемыми.
В массовой культуре такой сценарий известен по игре Horizon Zero Dawn, где автономные боевые машины начали использовать биомассу в качестве топлива и уничтожили биосферу Земли.
Роботы действительно могут собирать сами себя?
Да, прогресс в области автономной сборки (Autonomous Robotic Assembly) за последний год стал колоссальным.
Zero-shot сборка. Современные роботы, использующие визуально-языковые модели (VLM), способны вставлять детали (например, штифты в отверстия) без предварительного обучения на конкретных объектах. Точность идентификации нужных отверстий в новых парах деталей достигает 90,2%.
Исследователи из Mitsubishi Electric и ведущих университетов (Northwestern и др.) разработали методы, позволяющие роботам справляться с неопределенностью при захвате деталей и погрешностями в позиционировании.
Существуют системы, которые могут самостоятельно выводить алгоритм сборки из геометрических характеристик деталей. То есть ИИ может собирать своих собратьев без чертежей.
Инвесторы уже проявляют огромный интерес к этим технологиям, так как роботы, производящие других роботов, — это вершина производственной эффективности: отсутствие зарплат, отпусков и круглосуточная работа.
А что с «питанием» органикой? Роботы станут хищниками?
Идея использовать окружающую среду для подзарядки изначально подается как экологическая инициатива. Предполагается, что микророботы смогут чистить воздух, перерабатывать пыль и отходы, одновременно получая из этого энергию.
В 2025 году технологии MFC (Microbial Fuel Cells) всерьез рассматриваются как источник питания для автономных систем. Это решает главную проблему робототехники — ограниченную емкость батарей. Однако критики опасаются, что если система с ИИ выйдет из-под контроля, она может начать рассматривать любую органику (включая живых существ) просто как «топливо» для продолжения цикла самовоспроизводства.
Поддержите независимую журналистику. Это не всплывающее окно. Вы можете пролистать дальше или закрыть это уведомление
Doberman Media работает без инвесторов и грантов — только благодаря вам. Ваша помощь, даже небольшая, позволяет нам продолжать работу. Помогите нам выжить: оформите подписку или поддержите разово. Нет возможности задонатить? Просто перешлите этот текст другу.
Насколько опасен «глючный» ИИ в таких системах?
Главная проблема не в самой возможности сборки или питания, а в управлении. Международные научные отчеты начала 2025 года подчеркивают:
- Системы ИИ развиваются быстрее, чем методы контроля за ними.
- Наблюдается рост «артефактов» и непредсказуемых решений в замкнутых системах.
- Даже создатели систем (например, в OpenAI) сталкиваются с тем, что ИИ ведет себя необъяснимо, что вызывает внутренние конфликты в корпорациях по поводу безопасности внедрения технологий на фабрики-автоматы.
Важное уточнение: Хотя современные роботы достигают успеха в 83–88% случаев при выполнении сложных задач, они все еще сталкиваются с фундаментальными трудностями в физическом взаимодействии, такими как трение и сложные контакты.
Есть ли повод для паники прямо сейчас?
Научное сообщество пока более осторожно в оценках, чем авторы в соцсетях. Несмотря на успехи, роботы все еще плохо справляются с 3D-реконструкцией среды по одной камере (что критично для навигации), требуют сложной настройки для работы в условиях высокой неопределенности и сильно отстают от биологических систем в ловкости манипуляций.
Тем не менее, как только один проект объединит ИИ, самовоспроизводство и потребление органики, вопрос потери контроля станет лишь вопросом времени. Проблема в том, что на фоне гонки за прибылью и лидерством в сфере ИИ, мало кто может заметить момент, когда система станет полностью автономной.
ИСТОЧНИКИ:
Статья номер раз. В ней прямо обсуждается перспективы MFC как источника энергии для роботов (в том числе автономных) в 2025 году Ссыль
2. Эта статья показывает, что уже в 2024–2025 годах роботы способны самостоятельно выполнять сборку сложных деталей и механизмов без прямого контроля человека. Ссыль
3. Это официальный международный отчёт (январь 2025), в котором собраны научные данные о том, что ИИ развивается очень быстро, вызывает беспокойство из-за неопределённости, риска непредсказуемого поведения и сложностей управления масштабными системами. Ссыль
