Адаптивность против хрупкости: чему ИИ должен поучиться у миссии «Аполлон-13»

Современные системы ИИ поражают своей скоростью, но у них есть критический недостаток — хрупкость. Малейшее изменение входных данных (например, несколько измененных пикселей на фото) может привести к катастрофической ошибке. В 1970 году, когда на борту «Аполлона-13» взорвался бак с кислородом, люди выжили благодаря способности адаптироваться к «невозможным» условиям. Они использовали подручные материалы, чтобы создать фильтры для очистки воздуха. Для ИИ такая задача невыполнима, если она не была заранее прописана в коде. Путь к 2062 году лежит через создание гибких систем, способных на «здравый смысл» в критических ситуациях.

Почему ИИ до сих пор «хрупок»

Проблема в том, что современный машинный интеллект работает на основе статистики, а не понимания сути вещей.

• Отсутствие контекста: ИИ не понимает законов физики. Для него падение яблока — это массив чисел, а не закон гравитации.
• Узкая специализация: AlphaGo может обыграть чемпиона в го, но не сможет сыграть в простейшие «крестики-нолики» без переобучения.
• Эффект черного ящика: Мы часто не знаем, почему система приняла именно такое решение, что делает её поведение непредсказуемым в нестандартной среде.

• Сравнение систем выживания
• Характеристика
• Алгоритмический ИИ
• Человеческий разум
• Реакция на ошибку
• Сбой или неверный расчет
• Поиск альтернативного решения
• Ресурсная база
• Только заданные параметры
• Любые доступные инструменты
• Логика работы
• Анализ данных (прошлое)
• Интуиция и прогноз (будущее)
• Надежность
• Высокая в норме, низкая в хаосе
• Средняя в норме, высокая в кризисе
• Совет от dozeninfo.com

Используя мощные инструменты автоматизации, всегда оставляйте за собой роль «аварийного пилота». Не доверяйте ИИ управление критически важными процессами на 100 %. Ваша ценность как человека заключается в способности принимать решения там, где данных недостаточно или они противоречивы. Будьте адаптивны, как экипаж «Аполлона-13».