Коли його запитали про генеративний штучний інтелект (ШІ) і про те, куди він «бачить розвиток», генеральний директор Тім Кук дав рідкісну можливість зазирнути в огороджений сад Apple під час частини запитань і відповідей на нещодавній телефонній розмові про прибутки.
Кук утримався від розкриття планів Apple, заявивши наперед: «Ми не коментуємо плани розвитку продукту». Однак він натякнув, що компанія зацікавлена в просторі:
«Я справді вважаю, що дуже важливо підходити до цих речей обдумано та вдумливо. І є низка питань, які потрібно розібрати… але потенціал, безумовно, дуже цікавий».
Пізніше генеральний директор додав, що компанія вважає «штучний інтелект величезним» і «продовжуватиме вплітати його в наші продукти на дуже продуманій основі».
Коментарі Кука щодо «продуманого та продуманого» підходу можуть пояснити відсутність компанії в генеративному просторі ШІ. Однак є деякі ознаки того, що Apple проводить власні дослідження пов’язаних моделей.
Дослідницька стаття, яку планується опублікувати на конференції Interaction Design and Children у червні цього року, деталізує нову систему для боротьби з упередженням у розробці наборів даних машинного навчання.
Упередженість — тенденція моделі штучного інтелекту робити несправедливі або неточні прогнози на основі неправильних або неповних даних — часто згадується як одна з найбільш нагальних проблем для безпечної та етичної розробки генеративних моделей штучного інтелекту.
So glad OpenAI is keeping its bias in check. pic.twitter.com/y4a7FUochR
— Brooklin Nash (@realBrookNash) April 27, 2023
У документі, який наразі можна прочитати в препринті, детально описується система, за допомогою якої кілька користувачів сприятимуть розробці набору даних системи штучного інтелекту з однаковими вхідними даними.
Розробка штучного інтелекту, що генерує статус-кво, не додає зворотного зв’язку людини до пізніших етапів, коли, як правило, моделі вже отримали упередженість навчання.
Нове дослідження Apple об’єднує відгуки людей на дуже ранніх етапах розробки моделі, щоб істотно демократизувати процес відбору даних. Результатом, за словами дослідників, є система, яка використовує «практичний, спільний підхід до впровадження стратегій для створення збалансованих наборів даних».
За темою: Проблема чорної скриньки штучного інтелекту: виклики та рішення для прозорого майбутнього
Слід зазначити, що це дослідження було розроблено як освітня парадигма, щоб заохотити новачків цікавитися розробкою машинного навчання.
Може виявитися складно масштабувати методи, описані в статті, для використання в навчанні широкомовних моделей (LLM), таких як ChatGPT і Google Bard. Проте дослідження демонструє альтернативний підхід до боротьби з упередженістю.
Зрештою, створення LLM без небажаних упереджень може стати знаковим моментом на шляху до розробки систем штучного інтелекту на рівні людини.
Такі системи можуть порушити всі аспекти технологічного сектора, особливо світи фінансових технологій, торгівлі криптовалютами та блокчейну. Наприклад, неупереджені боти для торгівлі акціями та криптовалютами, здатні міркувати на людському рівні, можуть сколихнути світовий фінансовий ринок шляхом демократизації торгових знань високого рівня.
Крім того, демонстрація неупередженого LLM може значною мірою допомогти задовольнити державну безпеку та етичні проблеми індустрії генеративного ШІ.
Це особливо важливо для Apple, оскільки будь-який генеративний продукт штучного інтелекту, який вона розробляє або підтримує, виграє від вбудованого в iPhone чіпсета штучного інтелекту та його 1,5 мільярда користувачів.
