Oficiul de achiziții tehnologice al Armatei a anunțat astăzi două noi inițiative sub planul său de implementare a inteligenței artificiale pe 500 de zile, concentrându-se pe testarea tehnologiilor avansate pentru utilizarea de către soldați și, dacă este necesar, apărarea împotriva utilizării inteligenței artificiale de către inamic.

Young Bang, antreprenor principal adjunct al secretarului asistent al Armatei pentru Achiziții, Logistică și Tehnologie (ASA(ALT)), a introdus cele două inițiative folosind noi hashtaguri: #BreakAI și #CounterAI.

Bang a subliniat că #BreakAI este orientat spre testarea algoritmilor prin procese tradiționale de “testare și evaluare” și “verificare și validare” guvernamentale, asigurându-se că inteligența artificială este în cele din urmă complet operabilă și fără erori atunci când ajunge la soldați.

“Este vorba, într-adevăr, despre cum putem testa, pe măsură ce ne îndreptăm către AGI [inteligența generală artificială], ceva despre care nu știm care vor fi rezultatul sau comportamentele,” a întrebat Bang.

Deși are un potențial imens, experții au avertizat de multă vreme asupra dificultății de a înțelege cum AI-ul generează răspunsurile la întrebări, asemănându-l cu o “cutie neagră.” Astfel, Bang a declarat că biroul său are nevoie de ajutorul industriei pentru a implementa această inițiativă, în special pentru dezvoltarea de instrumente de testare a AI-ului, adăugând că se va baza pe feedback-ul industriei.

“#BreakAI este despre modul în care ne vom asigura că modelele noastre de inteligență artificială funcționează, iar când le punem în mâinile soldaților, suntem total încrezători că vor oferi răspunsul corect și rezultatul dorit,” a declarat ulterior Jennifer Swanson, secretar asistent adjunct al Armatei pentru date, inginerie și software.

Între timp, #CounterAI este mai mult o inițiativă defensivă. Aceasta are ca obiectiv să se asigure că “platformele, algoritmii și capacitățile noastre sunt protejate de atacuri și amenințări,” a explicat Swanson.

“Știm că nu suntem singurii care investim în acest domeniu; există multe investiții [în contracararea atacurilor] care se desfășoară în țări care reprezintă amenințări mari pentru Statele Unite,” a adăugat ea.

Inițiativele #BreakAI și #CounterAI se alătură inițiativei #DefendAI, anunțate în iunie ca parte a planului de 500 de zile al Armatei pentru inteligența artificială — un plan care se bazează pe planul de 100 de zile lansat în martie și încheiat în iunie. Inițiativa #DefendAI este concepută pentru a crea un cadru de apărare stratificat cu AI pentru a ajuta la atenuarea riscurilor asociate cu algoritmii de terță parte, în timp ce lucrează pentru a operationaliza inteligența artificială din industrie. Swanson a afirmat că #DefendAI și #CounterAI sunt asemănătoare, dar cea din urmă se concentrează mai mult pe amenințările adversarilor, în timp ce prima se concentrează pe eliminarea problemelor care pot apărea în mod natural atunci când se folosește o versiune externalizată a AI-ului.

“Cred că vor exista, de asemenea, conexiuni și lucrurile pe care le-am învățat din #DefendAI pe care le putem aplica în oarecare măsură la #CounterAI,” a spus Swanson.

Și, deși Armata solicită ajutorul industriei pentru inițiativele sale, acest lucru nu înseamnă că intenționează să-și împărtășească public descoperirile, având în vedere că armatele rivale caută cu siguranță cele mai bune practici în domeniul inteligenței artificiale.

“Nu vom discuta despre toate acestea în public, nu? Pentru că trebuie să existe unele operațiuni implicate în acest proces, pe măsură ce începem să învățăm și să ne dăm seama ce avem de făcut. Vor fi lucruri pe care le vom împărtăși în forumuri ca acestea și vor fi lucruri pe care nu le vom împărtăși în forumuri ca acesta, pentru că nu vom merge să le spunem adversarilor noștri exact cum vom contracara ceea ce fac,” a spus Swanson.