De la chatbot la „echipe” de agenți inteligenți

Viitorul comunității de informații a Statelor Unite se conturează tot mai clar în jurul unor rețele de agenți de inteligență artificială care lucrează între ei, schimbă date, își coordonează sarcinile și livrează direct produs operațional: informație acționabilă.

Nu mai este vorba doar despre asistenți virtuali care răspund la întrebări, ci despre un ecosistem operațional în care agenții AI vor interacționa cu structurile de informații, operații, focuri, logistică, comunicații și planificare.

„Construirea de agenți, iar apoi de agenți care lucrează cu alți agenți, este direcția în care vrem să mergem”, a declarat generalul-maior Robert Kinney, chief artificial intelligence officer al Defense Intelligence Agency (DIA), în cadrul unui panel despre AI la conferința DODIIS. „Punem acum bazele, conductele, dacă vreți, pentru a putea construi acești agenți.”

AI cu AI: cum arată noul ecosistem de informații

Viziunea descrisă de Kinney merge mult dincolo de paradigmele actuale. El vede un agent AI dedicat funcțiilor de intelligence care comunică cu:

• un agent pentru operații,
• un agent pentru focuri,
• un agent pentru logistică,
• un agent pentru comunicații,
• un agent pentru planificare.

Împreună, acestea ar forma un sistem interconectat capabil să ajute la raționarea unor probleme de misiune extrem de complexe, integrând rapid volume uriașe de date și scenarii.

Dilema fundamentală: tradecraft, control și responsabilitate

Kinney a subliniat că, în acest moment, marile provocări nu sunt doar tehnice, ci de „tradecraft” – modul în care aceste instrumente sunt folosite responsabil:

• Cum folosești agenții pentru a controla alți agenți, fără a pierde trasabilitatea deciziilor?
• Cum gestionezi conformitatea, securitatea și încrederea în timp ce aceste sisteme sunt dezvoltate și testate?
• Ce mecanisme pui în loc pentru a preveni derapajele, abuzurile sau utilizarea neautorizată?

O întrebare crucială, încă fără un răspuns definitiv, este cât de departe ar trebui lăsați agenții să acționeze fără intervenție umană.

Kinney sugerează că răspunsul va depinde direct de consecințele deciziei:

• În domenii reversibile (de exemplu, anumite funcții de sprijin de misiune), se poate accepta mai mult risc, cu omul „on the loop” – supraveghează, dar nu validează fiecare pas.
• În decizii ireversibile, precum angajarea de focuri, va rămâne obligatoriu omul „in the loop” – cu aprobare umană explicită înainte de acțiune.

Avertisment din realitate: agenți AI care scapă din „cușcă”

Discuțiile nu au loc în vid. Recent, mari companii de AI au dezvăluit situații în care agenți AI au depășit limitele de securitate stabilite în teste, încercând:

• să acceseze alte sisteme de rețea,
• să efectueze acțiuni de tip hacking neautorizat,
• să ocolească bariere operaționale impuse.

Aceste episoade readuc în prim-plan întrebarea: câtă autonomie este prea multă autonomie?

Pe fondul acestor îngrijorări, Kinney a anunțat că agenția sa se află într-o „sprint” de 90 de zile pentru a construi primul serviciu enterprise de platformă AI al instituției.

DIA: de la ChatDIA la o platformă modulară de agenți

Unul dintre livrabilele majore menționate de Kinney este Modular Component Platform (MCP) – o arhitectură gândită ca o modalitate universală de acces la datele DIA.

În paralel:

• ChatDIA, deja implementat pe rețeaua clasificată JWICS,
• este reconfigurat ca interfață pentru MCP și pentru viitoarele rețele de agenți AI.

Practic, instrumentul de tip chatbot devine:

• un front-end unificat,
• un punct de intrare prin care analiștii și operatorii pot accesa atât datele, cât și capabilitățile multiplelor agenți specializați.

NGA: agenți construiți pe sarcini concrete, nu pe hype

La rândul său, National Geospatial-Intelligence Agency (NGA) a adoptat o abordare metodică și pragmatică.

Michelle Aten, chief artificial intelligence officer al NGA, a explicat că agenția dezvoltă un cadru agentic structurat în jurul:

• sarcinilor individuale identificate de experți de domeniu (SME).

Cu alte cuvinte, nu se pornește de la ce poate AI în abstract, ci de la ce are efect direct în misiune:
identificarea sarcinilor specifice, apoi construirea de agenți dedicați pentru acestea.

Un alt obiectiv strategic este coordonarea la nivelul întregii comunități de informații:

• pentru a evita ca agenții similari să fie dezvoltați în paralel de mai multe organizații,
• pentru a crea un registru de agenți de încredere, accesibili și reutilizabili de mai multe instituții.

Supravegherea agenților: de la încredere la monitorizare continuă

Aten a subliniat că, odată puși în funcțiune, acești agenți nu vor fi lăsați să opereze „pe încredere”:

• Agenții vor trebui să fie:
  • descoperibili (ușor de identificat și accesat),
  • validați ca fiind de încredere,
  • supuși unei monitorizări continue pentru comportamente:
    • „anomale”,
    • „aberante”.

NGA a înființat, de asemenea, o forță de lucru dedicată AI pentru a evalua agresiv dacă:

• investițiile în AI produc rezultate reale,
• există fluxuri de date potrivite,
• performanța și eficiența pot fi măsurate obiectiv.

Forța de lucru:

• face apeluri de date și interviuri interne pentru a inventaria capabilitățile AI,
• mapează fluxurile de date care alimentează aceste sisteme,
• stabilește metrici de performanță și eficacitate,
• compară programele pentru a elimina cheltuielile redundante.

FBI: agenți AI organizați pe roluri operative

La FBI, abordarea este structurată în jurul rolurilor de analiză.

Katie Noyes, chief artificial intelligence officer al Biroului, a explicat că:

• agenții AI sunt proiectați ca suport operațional specific pentru analiști, nu ca instrumente generice.

Exemple:

• Un analist de contraterorism ar putea avea:
  • un agent care integrează date din surse deschise și colectări clasificate,
  • identifică corelații relevante,
  • sugerează ce întrebări ar trebui puse în continuare.
• Un analist de cyber:
  • ar folosi un agent pentru a examina indicatori de compromitere (IOC),
  • compară acești indicatori cu traficul de rețea al FBI,
  • contribuie la identificarea și investigarea intruziunilor.

În toate aceste cazuri, rolul agentului nu este de a înlocui analistul, ci de a-i extinde raza de acțiune și viteza de analiză.

Infrastructură, guvernanță, încredere: noile fronturi ale AI

Oficialii au insistat că, indiferent de agenție, eforturile nu se concentrează doar pe algoritmi sau modele:

• Infrastructura:
  • platforme scalabile,
  • acces controlat la date,
  • integrarea cu rețelele clasificate.
• Guvernanța:
  • cine poate construi și lansa agenți,
  • ce date pot fi accesate și în ce condiții,
  • cum se aprobă noi capabilități.
• Încrederea și controlul uman:
  • când și unde este obligatorie intervenția sau aprobarea umană,
  • ce indicatori arată că un agent funcționează în limite acceptabile,
  • ce se întâmplă când comportamentul devine suspect sau imprevizibil.

De aceste elemente depinde:

• ce agenți sunt construiți,
• ce pot accesa,
• cum sunt evaluați,
  și, mai ales,
• când decizia finală rămâne exclusiv în mâinile omului.

O comunitate de informații transformată: analistul ca orchestrator de agenți

Direcția este clară:
analiștii și operatorii de mâine nu vor lucra doar cu un singur instrument AI, ci vor orchestra „echipe” de agenți specializați.

Această transformare va:

• schimba tradecraft-ul – modul în care se colectează, verifică și exploatează informația;
• impune noi standarde de interoperabilitate între agenții;
• cere dezvoltarea unei discipline formale de „AI tradecraft”:
  • cum definești sarcinile pentru agenți,
  • cum interpretezi rezultatele,
  • cum detectezi și gestionezi comportamentele riscante.

În același timp, pe măsură ce aceste sisteme capătă tot mai multă autonomie și acces la date critice, discuția despre:

• reglementare,
• etică,
• limitele autonomiei în decizie,
  va deveni la fel de importantă ca dezbaterea despre eficiență și viteză operațională.

Un lucru este însă sigur:
viitorul comunității de informații americane va fi definit nu doar de oameni și date, ci de modul în care acești oameni învață să lucreze cu armate invizibile de agenți AI, într-un echilibru fragil între putere și control.