Пентагон завершает пилотную программу использования чат-ботов для военной медицины

Главное управление цифрового и искусственного интеллекта Министерства обороны США (CDAO) завершило пилотный проект, направленный на использование чат-ботов с искусственным интеллектом в военно-медицинских службах.

В объявлении от 2 января Министерство обороны сообщило, что пилотная программа краудсорсинговой программы обеспечения безопасности AI Red-Teaming (CAIRT) сосредоточена на использовании моделей большого языка (LLM) для обобщения клинических записей и в качестве медицинских консультантов в вооруженных силах.

Это происходит по мере того, как все больше компаний, занимающихся искусственным интеллектом, начали предлагать свои продукты военным и оборонным подрядчикам США для изучения их полезности в военных целях.

По данным Министерства обороны, пилотный проект был организован красной командой, проведенной технологической некоммерческой организацией Humane Intelligence.

Оно привлекло более 200 независимых внешних участников, в том числе медицинских работников и медицинских аналитиков, которые сравнили три известные модели чат-ботов.

Аналитики из Агентства Министерства обороны США и Университета медицинских наук также сотрудничали с другими участниками, проверяя потенциальные слабости и недостатки системы при использовании чат-ботов.

По данным Министерства обороны, пилот обнаружил несколько сотен возможных проблем при использовании чат-ботов в военно-медицинских целях.

«В ходе учений было выявлено более 800 потенциальных уязвимостей и предубеждений, связанных с использованием этих возможностей в этих предполагаемых вариантах использования».

«Это мероприятие приведет к получению повторяемых и масштабируемых результатов за счет разработки наборов эталонных данных, которые можно будет использовать для оценки будущих поставщиков и инструментов на предмет соответствия ожиданиям в отношении производительности», — заявили в Министерстве обороны.

Руководитель инициативы Главного управления цифрового и искусственного интеллекта Мэтью Джонсон заявил, что результаты также будут использоваться для формирования будущих исследований Министерства обороны и разработки систем генеративного искусственного интеллекта (GenAI), которые могут быть развернуты в будущем.

CDAO был создан в июне 2022 года для надзора и продвижения интеграции технологий цифрового и искусственного интеллекта в военные и оборонные операции США.

Связанный: Google рекламирует «новую агентную эру» с агентами ИИ на базе Gemini 2.0

В ноябре прошлого года двухпартийная комиссия Конгресса США заявила, что стране следует сосредоточиться на разработке инициативы, аналогичной Манхэттенскому проекту, для продвижения развития искусственного интеллекта на фоне растущей конкуренции с Китаем.

В списке конкретных рекомендаций комиссия заявила, что министру обороны США следует присвоить проектам ИИ наивысший национальный приоритет.

Тем временем компания Meta, занимающаяся социальными сетями и технологиями, начала предлагать свою модель искусственного интеллекта Llama военным и оборонным подрядчикам США в целях национальной безопасности.