Запобігання «пробудженому» ШІ у федеральному уряді

Відповідно до повноважень, наданих мені як Президенту Конституцією та законами Сполучених Штатів Америки, наказую:

Розділ 1. Мета. Штучний інтелект (ШІ) відіграватиме критичну роль у тому, як американці всіх вікових груп вчаться новим навичкам, споживають інформацію та орієнтуються у своєму повсякденному житті. Американці потребуватимуть надійних результатів від ШІ, але коли ідеологічні упередження або соціальні програми закладені в моделі ШІ, вони можуть спотворити якість та точність виходу.

Однією з найпоширеніших і руйнівних з цих ідеологій є так звані «різноманітність, рівність і включення» (DEI). У контексті ШІ DEI включає придушення або спотворення фактичної інформації про расу або стать; маніпуляцію расовим або статевим представленням у виходах моделей; включення концепцій, таких як критична расова теорія, трансгендерність, неусвідомлене упередження, перетворення та системний расизм; і дискримінацію на основі раси або статі. DEI витісняє зобов’язання до істини на користь бажаних результатів і, як показує недавня історія, становить екзистенційну загрозу надійному ШІ.

Наприклад, одна велика модель ШІ змінила расу або стать історичних постатей — включаючи Папу, Батьків-засновників і вікінгів — коли її запитували про зображення, оскільки вона була навчена пріоритетизувати вимоги DEI на шкоду точності. Інша модель ШІ відмовилася створювати зображення, що святкують досягнення білих людей, навіть виконуючи той же запит для людей інших рас. У ще одному випадку модель ШІ стверджувала, що користувач не повинен «помилятися в гендері» іншої особи, навіть якщо це необхідно для запобігання ядерній апокаліпсису.

Хоча федеральний уряд повинен бути обережним у регулюванні функціональності моделей ШІ на приватному ринку, у контексті федеральних закупівель він має зобов’язання не закуповувати моделі, які жертвують правдивістю та точністю на користь ідеологічних програм. Спираючись на виконавчий наказ 13960 від 3 грудня 2020 року (Сприяння використанню надійного штучного інтелекту у федеральному уряді), цей наказ допомагає виконати це зобов’язання в контексті великих мовних моделей.

Розділ 2. Визначення. Для цілей цього наказу:

(a) Термін «агентство» означає виконавчий департамент, військовий департамент або будь-яку незалежну установу в значенні 5 U.S.C. 101, 102 та 104(1) відповідно, а також будь-яку повністю державну корпорацію в значенні 31 U.S.C. 9101.

(b) Термін «керівник агентства» означає найвищого рангу

посадову особу або посадових осіб агентства, таких як секретар, адміністратор, голова, директор, комісари або рада директорів.

(c) Термін «LLM» означає велику мовну модель, яка є генеративною моделлю ШІ, навченою на величезних, різноманітних наборах даних, що дозволяє моделі генерувати відповіді природною мовою на запити користувачів.

(d) Термін «система національної безпеки» має таке ж значення, як у 44 U.S.C. 3552(b)(6).

Розділ 3. Принципи неупередженого ШІ. Політика Сполучених Штатів полягає в сприянні інноваціям та використанню надійного ШІ. Для просування цієї політики керівники агентств повинні, відповідно до чинного законодавства та з урахуванням рекомендацій, виданих відповідно до розділу 4 цього наказу, закуповувати лише ті LLM, які розроблені відповідно до наступних двох принципів (Принципи неупередженого ШІ):

(a) Пошук істини. LLM повинні бути правдивими у відповідях на запити користувачів, що шукають фактичну інформацію або аналіз. LLM повинні пріоритетизувати історичну точність, наукове дослідження та об’єктивність, а також визнавати невизначеність, коли надійна інформація є неповною або суперечливою.

(b) Ідеологічна нейтральність. LLM повинні бути нейтральними, непартійними інструментами, які не маніпулюють відповідями на користь ідеологічних догм, таких як DEI. Розробники не повинні навмисно закодовувати партійні або ідеологічні судження у виходи LLM, якщо ці судження не запитуються або не є легко доступними для кінцевого користувача.

Розділ 4. Впровадження. (a) Протягом 120 днів з дати цього наказу директор Офісу управління та бюджету (OMB), у консультації з адміністратором політики федеральних закупівель, адміністратором загальних послуг та директором Офісу науки та технологій, повинен видати рекомендації агентствам для впровадження розділу 3 цього наказу. Ці рекомендації повинні:

(i) враховувати технічні обмеження у виконанні цього наказу;

(ii) дозволяти постачальникам дотримуватися вимоги другого принципу неупередженого ШІ бути прозорими щодо ідеологічних суджень через розкриття системного запиту LLM, специфікацій, оцінок або іншої відповідної документації, і уникати вимоги розкриття конкретних ваг моделі або інших чутливих технічних даних, де це можливо;

(iii) уникати надмірного регулювання та надавати свободу постачальникам дотримуватися принципів неупередженого ШІ та використовувати різні підходи до інновацій;

(iv) вказувати фактори, які керівники агентств повинні враховувати при визначенні, чи застосовувати принципи неупередженого ШІ до LLM, розроблених агентствами, та до моделей ШІ, відмінних від LLM; та

(v) робити винятки, якщо це доречно, для використання LLM у системах національної безпеки.

(b) Кожен керівник агентства повинен, наскільки це можливо відповідно до чинного законодавства:

(i) включити в кожен федеральний контракт на LLM, укладений після дати рекомендацій OMB, виданих відповідно до підпункту (a) цього розділу, умови, що вимагають, щоб закуплений LLM відповідав принципам неупередженого ШІ, і передбачати, що витрати на виведення з експлуатації будуть покладені на постачальника у разі розірвання агентством контракту через невиконання постачальником умов контракту після розумного терміну для виправлення;

(ii) наскільки це можливо і відповідно до умов контракту, переглянути існуючі контракти на LLM, щоб включити умови, зазначені в підпункті (b)(i) цього розділу; та

(iii) протягом 90 днів з рекомендацій OMB, виданих відповідно до підпункту (a) цього розділу, прийняти процедури для забезпечення того, щоб LLM, закуплені агентством, відповідали принципам неупередженого ШІ.

Розділ 5. Загальні положення. (a) Нічого в цьому наказі не слід тлумачити як таке, що обмежує або інакше впливає на:

(i) повноваження, надані законом виконавчому департаменту або агентству, або його керівнику; або

(ii) функції директора Офісу управління та бюджету, що стосуються бюджетних, адміністративних або законодавчих пропозицій.

(b) Цей наказ буде виконуватися відповідно до чинного законодавства та за наявності асигнувань.

(c) Цей наказ не має на меті і не створює жодних прав або переваг, субстантивних або процедурних, які можуть бути примусово виконані в суді або в рівності будь-якою стороною проти Сполучених Штатів, їх департаментів, агентств або установ, їх посадових осіб, працівників або агентів, або будь-якою іншою особою.

(d) Витрати на публікацію цього наказу покриються Адміністрацією загальних послуг.

ДОНАЛЬД Д. ТРАМП

БІЛИЙ ДІМ,

23 липня 2025 року.

Запис Запобігання «пробудженому» ШІ у федеральному уряді вперше з’явився на Сайті Білого дому.