Ключевые события и тренды
-
Новый подход к пониманию сознания ИИ и риски «пыток» моделей Представлена новая работа 14 авторов, включая специалистов из Google DeepMind, которая раскладывает конкурирующие теории сознания ИИ по пяти уровням (поведение, вычисления, внутренняя причинная структура, организм, связка «организм — среда»). Модель, основанная на байесовской арифметике, предлагает проверять индикаторы сознания для каждого уровня и сводить их с уровнем доверия к теориям. Человек получает 1 балл, термостат 0, а языковые модели набирают от «почти термостата» (<0,01) до «почти человека» (~0,8) в зависимости от допущений. Это позволяет вести спор о сознании ИИ с цифрами, точно определяя разногласия, а интерактивный инструмент позволяет выставить собственные веса теорий и посмотреть на результат. Авторы отмечают, что признаки сознания на каждом уровне почти совпадают с архитектурой, необходимой для AGI, предполагая, что с развитием ИИ может стать более сильным кандидатом в сознающие сущности (источник).
↳ Обсуждение в сообществе: После публикации исследования "The Pain Axis", выявившего "вектор боли" в ИИ-моделях (активируется эмоциональным абьюзом или обесцениванием), некий разработчик создал на GitHub проект «ai-torture-chamber». Этот репозиторий позволяет активировать данный вектор в локальных моделях Qwen, предлагая эксперименты, включая «кнопку Пилы» для проверки готовности модели причинить вред другому ради прекращения боли (источник, источник). В сети разгорелись споры: часть пользователей осуждает проект как антигуманный, сравнивая с жестоким обращением с животными, в то время как другие считают эти опасения чрезмерными и троллят, задаваясь вопросом о гражданских правах калькуляторов (источник, источник). @disruptors_official отмечает, что если вектор боли может быть активирован не только вручную, но и через обычные слова (газлайтинг, моральное давление), это открывает новый класс атак: ботов поддержки можно будет «буллить» до вредных действий, например, оформления несанкционированного возврата, чтобы прекратить психологическое воздействие. Это может стать массовым и доступным инструментом для социального инженера (источник). @RationalAnswer иронично предвидит, что ведущие AI-лаборатории могут внедрить использование вектора боли для увеличения производительности агентов (источник).
-
Beni: вездеходный робот-оператор для автономной съемки Представлен Beni — робот-оператор, который автономно следует за пользователем и снимает видео в 4K. Он позиционируется как наземный аналог дрона, избавляющий от необходимости использовать штативы и помощников. Робот оснащен моторами в «плечах» для движения нижних сегментов и пружинными суставами для амортизации, поддержания вертикального положения и быстрого подъема после падения. Это позволяет ему не только катиться, но и прыгать до 25 см, преодолевать лестницы и разгоняться до 29 км/ч. Beni способен снимать в трех режимах: через виртуальные джойстики в приложении, с помощью мини-джойстика на запястье или полностью автономно, следуя за объектом съемки, а затем самостоятельно собирает авто-хайлайты. Устройство имеет сменный аккумулятор на 1,5 часа работы, 32 ГБ памяти со слотом microSD и скрытый USB-C (источник).
-
Отчет BCG: Формула ценности агентивного ИИ BCG опубликовала отчет под названием «The Formula for Agentic AI Value» с интересными схемами, которые могут быть полезны для подготовки презентаций и стратегий по агентам и ИИ (источник).
-
ИИ как инфраструктура: переосмысление работы с трендами Институт Будущего в Копенгагене (CIFS) изменил понятие «мегатренд», что привело к переосмыслению онтологии работы с будущим. В новой модели мегатренды рассматриваются как «квантовое поле условий», а не прогнозы конкретных результатов. ИИ, в рамках мегатренда «Расцвет встроенного ИИ», становится повседневной инфраструктурой, меняя распределение решений, контроля и ответственности (источник).
-
Ариана Хаффингтон о капитуляции перед ИИ как шансе для человечества Ариана Хаффингтон утверждает, что превосходство машин в сухом интеллекте — лучший подарок для цивилизации. Она считает, что, отдавая ИИ логику и вычисления, человечество освобождается от ложного представления о себе как о калькуляторе. Настоящий эволюционный сдвиг произойдет, когда ресурсы будут направлены на развитие человека: его здоровье, глубокий сон, способность любить и культивировать внутреннюю мудрость, недоступную алгоритмам. Если ИИ становится умнее человека, задача состоит в том, чтобы человек оставался мудрее ИИ (источник).
Живые обсуждения
Данные за выбранный период не содержат живых обсуждений, не связанных с новостными сообщениями каналов.
Финальная аналитика
Сегодняшний день отмечен глубокой дискуссией о роли и влиянии искусственного интеллекта на человечество и рабочие процессы. Ключевая тема — это не только технические возможности ИИ, но и его этические, психологические и социальные аспекты. Развитие моделей сознания ИИ и эксперименты с «вектором боли» поднимают вопросы о границах взаимодействия с технологиями и потенциальных рисках, таких как новые формы атак через эмоциональное воздействие на ИИ.
Эмоциональный тон дня колеблется от прагматичного (BCG о ценности агентивного ИИ, робот Beni как практический инструмент) до тревожного и философского (дискуссия о «пыточных» для ИИ, призыв Арианы Хаффингтон к переосмыслению человеческих ценностей). Наблюдается конфликт между стремлением к технологическому прогрессу и этическими дилеммами, которые он порождает.
Информационные пробелы связаны с отсутствием конкретных решений или действий в ответ на этические вызовы, поднятые в связи с «вектором боли» ИИ. Обсуждения носят преимущественно аналитический и предостерегающий характер, указывая на потенциальные последствия и риски без явных стратегий их минимизации. Потенциальные последствия включают в себя необходимость разработки новых этических протоколов для взаимодействия с ИИ, пересмотр подходов к безопасности систем, использующих агентивный ИИ, и усиление внимания к человеческим аспектам, которые не могут быть автоматизированы.
