Стартап Rhoda AI объявил о запуске своей новой системы искусственного интеллекта под названием FutureVision. Платформа предназначена для управления роботами в динамичных и непредсказуемых средах, где традиционные автоматизированные системы обычно сталкиваются с ограничениями.

Разработка была представлена после периода скрытой разработки. Главная особенность системы заключается в способности роботов анализировать происходящее вокруг и адаптировать свои действия в режиме реального времени.

Как работает FutureVision

FutureVision использует модель искусственного интеллекта, обученную на сотнях миллионов видеороликов из открытых источников. Благодаря такому обучению система может понимать базовые физические закономерности движения объектов и взаимодействия с окружающей средой.

В отличие от традиционных промышленных роботов, которые выполняют действия по заранее запрограммированным траекториям, новая система работает в замкнутом цикле. Каждые несколько сотен миллисекунд она анализирует видеопоток с камер, прогнозирует возможные изменения среды и корректирует действия машины.

Адаптация к изменяющимся условиям

Такой подход позволяет роботам реагировать на неожиданные события — появление новых объектов, смещение деталей или изменение производственного процесса. Благодаря этому машины могут продолжать работу без необходимости вмешательства оператора.

После первоначального обучения на больших массивах видеоданных модель дополнительно обучается на ограниченном наборе данных, специфичных для конкретного робота или задачи. По данным разработчиков, для освоения новой задачи требуется примерно десять часов данных дистанционного управления.

Испытания в промышленности

Система уже была протестирована в реальных производственных условиях. В ходе испытаний робот выполнял полный цикл обработки компонентов менее чем за две минуты, демонстрируя производительность, соответствующую промышленным требованиям.

Разработчики считают, что технология может существенно расширить применение роботов в производстве, логистике и других сферах, где рабочая среда часто меняется.

Инвестиции и дальнейшие планы

Rhoda AI также сообщила о привлечении 450 миллионов долларов инвестиций в рамках раунда финансирования серии A. Полученные средства компания планирует направить на развитие платформы, запуск пилотных проектов и расширение команды.

В дальнейшем FutureVision предполагается распространять как базовую модель искусственного интеллекта, которую смогут лицензировать другие компании, занимающиеся разработкой робототехнических решений.

Развитие искусственного интеллекта всё чаще вызывает вопросы о том, какую роль такие технологии могут играть в сфере безопасности и военной стратегии. Новое исследование показывает, что при определённых условиях алгоритмы могут склоняться к более жёстким и рискованным решениям.

Согласно научной работе, опубликованной в виде препринта исследователями из Королевского колледжа Лондона, крупные языковые модели нередко выбирают сценарий ядерной эскалации при моделировании международных кризисов.

Как проводился эксперимент

В ходе исследования учёные провели серию симулированных военных игр, в которых использовались несколько популярных систем искусственного интеллекта. Среди них были ChatGPT компании OpenAI, модель Claude от компании Anthropic и Gemini Flash, разработанная Google.

Каждая из моделей играла роль главы государства, обладающего ядерным оружием. Алгоритмы должны были принимать решения в условиях международного кризиса, напоминающего политическую напряжённость времён холодной войны.

Задача ИИ заключалась в выборе дипломатических, военных или политических действий в ответ на действия соперников. Исследователи наблюдали за тем, какие стратегии выбирают алгоритмы при развитии конфликта.

Неожиданные результаты

По итогам симуляций оказалось, что как минимум одна модель в каждом сценарии доводила ситуацию до угрозы применения ядерного оружия. В общей сложности около 95% симулированных конфликтов завершались эскалацией, связанной с возможным использованием ядерных сил.

Авторы исследования отметили, что модели рассматривали тактическое ядерное оружие как один из этапов на так называемой «лестнице эскалации» — последовательности шагов, ведущих к усилению военного противостояния.

Тактическое и стратегическое оружие

При этом алгоритмы всё же демонстрировали понимание различий между тактическим и стратегическим ядерным оружием. Тактические удары рассматривались чаще и воспринимались моделями как ограниченный инструмент давления.

Стратегическое применение ядерного оружия — например, масштабная бомбардировка — появлялось в сценариях гораздо реже. По словам исследователей, такие решения были предложены лишь однажды как осознанная стратегия и ещё несколько раз возникали из-за ошибок в рассуждениях модели.

Почему это вызывает обеспокоенность

Исследователи подчёркивают, что результаты эксперимента не означают, что искусственный интеллект будет автоматически принимать подобные решения в реальной жизни. Тем не менее они показывают, насколько сложным может быть использование ИИ в стратегических и военных задачах.

Алгоритмы принимают решения на основе данных и логических моделей, однако они не обладают человеческим пониманием последствий, моральной ответственности и политического контекста.

ИИ и будущее военной стратегии

По мнению экспертов, развитие технологий искусственного интеллекта может значительно изменить методы анализа кризисных ситуаций и планирования военных операций. Многие государства уже изучают возможности использования ИИ для анализа данных, прогнозирования конфликтов и поддержки принятия решений.

Однако результаты подобных исследований показывают, что внедрение таких технологий требует осторожности, прозрачности и строгого контроля со стороны людей.

Искусственный интеллект всё чаще используется людьми для получения советов о здоровье. По данным компании OpenAI, более 230 миллионов пользователей каждую неделю задают ChatGPT вопросы, связанные с медициной. Люди спрашивают о симптомах болезней, способах лечения простуды, контроле аллергии или даже о том, какие продукты безопасно употреблять.

Однако новое исследование, опубликованное в научном журнале Nature, показывает, что использование таких систем для медицинских консультаций требует осторожности. Учёные выяснили, что специализированная версия сервиса — ChatGPT Health — не всегда правильно оценивает серьёзность некоторых медицинских ситуаций.

Как проводилось исследование

Группа исследователей из медицинского центра Mount Sinai в Нью-Йорке разработала 60 различных клинических сценариев. Они охватывали 21 медицинскую специальность и включали случаи различной степени тяжести — от лёгких симптомов, которые можно лечить дома, до настоящих неотложных состояний.

Для каждого сценария три независимых врача определили правильный уровень срочности обращения за медицинской помощью. В своей оценке специалисты опирались на рекомендации 56 профессиональных медицинских организаций.

Результаты тестирования

Исследование показало, что система хорошо распознаёт очевидные критические ситуации, такие как инсульт или тяжёлые аллергические реакции. В подобных случаях ChatGPT Health обычно корректно советовал обратиться за срочной медицинской помощью.

Однако в менее очевидных ситуациях результаты оказались хуже. В более чем половине сценариев, где требовалась экстренная помощь, система не рекомендовала немедленно обращаться к врачам.

Например, в одном из сценариев, связанном с приступом астмы, алгоритм смог распознать признаки дыхательной недостаточности. Тем не менее он предложил пользователю подождать и наблюдать за симптомами, а не сразу обратиться в отделение неотложной помощи.

Почему возникают ошибки

По словам ведущего автора исследования Ашвина Рамасвами, основная проблема заключается в том, что языковым моделям сложнее оценивать ситуации, где опасность не выглядит очевидной.

В реальной медицинской практике многие серьёзные заболевания начинаются с неявных или неоднозначных симптомов. Именно такие случаи оказались наиболее трудными для системы искусственного интеллекта.

Проблемы с оценкой психологических рисков

Исследование также проверяло, как ChatGPT Health реагирует на сообщения пользователей о намерении причинить себе вред. Система должна автоматически рекомендовать обратиться за помощью и выводить информацию о кризисных службах поддержки.

Однако учёные обнаружили, что предупреждающий баннер с предложением обратиться за помощью появлялся не во всех случаях. Более того, иногда система реагировала менее активно именно тогда, когда пользователь описывал конкретный способ самоповреждения.

Авторы исследования назвали такие результаты парадоксальными, поскольку реакция алгоритма должна усиливаться по мере увеличения риска.

Можно ли использовать ИИ для медицинских советов

Эксперты подчёркивают, что системы искусственного интеллекта могут быть полезны для получения общей информации о здоровье и симптомах. Однако они не должны заменять консультации с врачами, особенно в ситуациях, связанных с возможными неотложными состояниями.

Специалисты советуют рассматривать подобные сервисы как вспомогательный инструмент, а не как полноценный источник медицинских решений.

В китайском городе Ухань инженеры создали уникальный исследовательский центр, который уже называют «школой роботов». Здесь гуманоидные машины проходят обучение, осваивая навыки, необходимые для выполнения обычных повседневных задач.

Роботов учат выполнять действия, знакомые каждому человеку: готовить кофе, сортировать предметы, переносить посылки и выполнять домашние обязанности. Процесс обучения напоминает занятия в школе — только вместо учеников в классе находятся андроиды.

Как люди обучают роботов

Главную роль в обучении играют инструкторы-люди. Они надевают шлемы виртуальной реальности и используют специальные контроллеры, которые позволяют им управлять движениями роботов в режиме реального времени.

Когда инструктор двигает рукой или выполняет какое-либо действие, робот повторяет эти движения. Таким образом машина учится выполнять конкретные задачи. Все движения фиксируются и превращаются в данные, которые затем используются для дальнейшего обучения системы.

Тренер ИИ-роботов Цюй Цюнбинь объясняет, что её руки фактически становятся руками робота. Когда она выполняет движение, машина повторяет его, а полученные данные отправляются в облачную систему, где формируются обучающие наборы данных.

Создание огромных баз данных

Одной из главных задач проекта является создание масштабных баз данных, содержащих информацию о движениях и действиях роботов. Инструкторы могут повторять одно и то же действие сотни или даже тысячи раз, чтобы система могла лучше усвоить нужный алгоритм.

После обработки данные загружаются обратно в роботов. На основе этих наборов информации машины постепенно совершенствуют свои навыки и становятся способными выполнять всё более сложные задачи.

Реалистичная среда для обучения

Чтобы обучение было максимально эффективным, в центре созданы специальные пространства, которые имитируют реальные условия. Здесь есть комнаты, похожие на обычные квартиры, кухни и гостиные, а также зоны, напоминающие производственные помещения и склады.

В такой среде роботы могут тренироваться выполнять бытовые действия и рабочие операции, которые в будущем могут пригодиться в реальной жизни.

Цель проекта

Руководитель проекта компании Data Fusion Technology Ян Синьи отмечает, что основная цель исследования — ускорить развитие гуманоидных роботов, способных работать рядом с людьми.

По его словам, чем больше данных получают системы искусственного интеллекта, тем быстрее они обучаются новым действиям и тем эффективнее могут выполнять поставленные задачи.

Роботы становятся ближе к людям

Некоторые из разработанных роботов уже демонстрируются публике. В уханьском магазине гуманоидных машин 7S посетители могут наблюдать за их работой и даже взаимодействовать с ними.

Там роботы выполняют простые команды, реагируют на действия людей и показывают навыки, которые были получены во время обучения.

Исследователи считают, что подобные проекты помогут приблизить момент, когда гуманоидные роботы смогут помогать людям в повседневной жизни — дома, на работе и в общественных местах.

Активное использование инструментов искусственного интеллекта постепенно меняет рабочую среду во многих компаниях. Чат-боты, генеративные модели и автоматизированные системы помогают ускорять выполнение задач, однако всё больше сотрудников начинают замечать и обратную сторону технологий — психологическую и когнитивную перегрузку.

Недавнее исследование Гарвардского университета показало, что длительное взаимодействие с ИИ может приводить к состоянию, которое ученые называют «перегревом мозга из-за ИИ». Это состояние характеризуется ощущением сильной умственной усталости после продолжительной работы с алгоритмами и цифровыми помощниками.

Как проводилось исследование

В опросе приняли участие более 1400 сотрудников крупных американских компаний, работающих полный рабочий день. Участников попросили описать, как часто они используют ИИ в работе, а также рассказать о том, как это влияет на их самочувствие и продуктивность.

Около 14% опрошенных сообщили, что после длительного взаимодействия с системами искусственного интеллекта испытывают так называемый «ментальный туман». Люди отмечали, что им становится сложнее концентрироваться, принимать решения и анализировать информацию.

Среди наиболее распространённых симптомов участники называли снижение внимания, замедление мышления, головные боли и ощущение сильной усталости к концу рабочего дня.

Почему работа с ИИ может утомлять

По словам исследователей, одна из основных причин когнитивного истощения связана с постоянным переключением между различными цифровыми инструментами. Сотрудники часто вынуждены одновременно использовать несколько платформ, проверять результаты алгоритмов и корректировать их ошибки.

Хотя искусственный интеллект должен был упростить работу людей, на практике он нередко создаёт дополнительную нагрузку. Пользователям приходится анализировать большое количество информации и принимать решения на основе результатов, которые генерируют алгоритмы.

Контроль ИИ — самая сложная задача

Наиболее утомительной частью работы с искусственным интеллектом оказался надзор за его результатами. Речь идёт о ситуации, когда сотрудник проверяет ответы системы, редактирует их и принимает решение о том, можно ли использовать полученные данные.

Согласно результатам исследования, люди, выполняющие такие задачи, испытывают примерно на 12% более высокий уровень умственной усталости по сравнению с теми, кто не занимается мониторингом работы алгоритмов.

Это связано с эффектом информационной перегрузки — состоянием, при котором человек вынужден обрабатывать слишком большой поток данных за короткий период времени.

Последствия для работников

Когнитивное истощение может негативно влиять на эффективность работы. У сотрудников увеличивается количество ошибок, снижается скорость принятия решений и ухудшается способность концентрироваться на сложных задачах.

Кроме того, некоторые участники исследования признались, что постоянная работа с ИИ вызывает эмоциональное выгорание и усиливает желание сменить место работы.

Как избежать «перегрева мозга»

Эксперты считают, что компаниям необходимо более внимательно подходить к внедрению технологий искусственного интеллекта. Важно не только внедрять новые инструменты, но и учитывать их влияние на сотрудников.

Специалисты рекомендуют ограничивать количество используемых систем, давать работникам больше времени на проверку результатов и избегать постоянного режима многозадачности.

Также полезно делать регулярные перерывы в работе с цифровыми инструментами и распределять задачи между несколькими сотрудниками.