Пентагон завершує пілотну програму використання чат-ботів для військової медицини

Головне управління цифрового та штучного інтелекту (CDAO) Міністерства оборони США завершило пілотний проект, спрямований на використання чат-ботів ШІ у військових медичних службах.

У повідомленні від 2 січня Міністерство оборони повідомило, що пілотна програма Crowdsourced AI Red-Teaming (CAIRT) Assurance Program зосереджена на використанні широкомовних моделей (LLM) для узагальнення клінічних записок і в якості медичних радників у військових.

Це відбувається в той момент, коли все більше компаній, що займаються штучним інтелектом, почали пропонувати свою продукцію американським військовим і оборонним підрядникам, щоб дослідити їх корисність у військових застосуваннях.

За словами Міністерства оборони, пілотний проект був результатом спільної роботи технологічної некомерційної організації Humane Intelligence.

Він залучив понад 200 незалежних зовнішніх учасників, у тому числі лікарів і аналітиків охорони здоров’я, які порівняли три відомі моделі чат-ботів.

Аналітики з Агентства охорони здоров’я США та Університету медичних наук у військовій формі також співпрацювали з іншими учасниками, перевіряючи потенційні слабкі місця та недоліки системи під час використання чат-ботів.

За даними Міністерства оборони, пілот виявив кілька сотень можливих проблем під час використання чат-ботів у військових медичних програмах.

«Навчання виявили понад 800 висновків про потенційні вразливості та упередження, пов’язані з використанням цих можливостей у цих потенційних випадках використання».

«Ця вправа призведе до отримання повторюваних і масштабованих результатів шляхом розробки наборів контрольних даних, які можна використовувати для оцінки майбутніх постачальників і інструментів для узгодження з очікуваними показниками продуктивності», — заявили в Міністерстві оборони.

Керівник цієї ініціативи Головного управління цифрового та штучного інтелекту Метью Джонсон сказав, що результати також будуть використані для формування майбутніх досліджень Міністерства оборони та розробки систем Generative AI (GenAI), які можуть бути розгорнуті в майбутньому.

CDAO було створено в червні 2022 року для нагляду та просування інтеграції цифрових технологій і технологій штучного інтелекту в рамках військових і оборонних операцій США.

За темою: Google рекламує «нову агентську еру» з агентами ШІ на базі Gemini 2.0

У листопаді минулого року двопартійна комісія Конгресу США заявила, що країна повинна зосередитися на розробці ініціативи, схожої на Манхеттенський проект, щоб просувати розвиток штучного інтелекту на тлі зростаючої конкуренції з Китаєм.

Серед переліку конкретних рекомендацій комісія сказала, що міністр оборони США має відзначити проекти ШІ найвищим національним пріоритетом.

Тим часом компанія соціальних мереж і технологій Meta почала пропонувати свою модель штучного інтелекту Llama американським військовим і оборонним підрядникам для цілей національної безпеки.