Civil si militar
Cognitizarea reprezintă o etapă logică a avansării și extinderii globale a digitizării, proces care generează un volum uriaș de date, imposibil de analizat în timp real de utilizatorii umani. Necesitatea personalizării conținutului online, a agregării unor informații disparate pornind de la un algoritm specific, a înțelegerii feedbackului utilizatorilor umani, integrarea în timp real a soluțiilor analitice predictive și generarea instantanee a unor aplicații locale (appuri), generalizarea serviciilor de cloud computing în afaceri etc. generează presiunea care contribuie la dezvoltarea accelerată a mediului tehnologic care susține cognitizarea.
În domeniul civil, conceptul de „cognitive business” promovat de IBM, ca aplicație a platformei Watson[1], revoluționează modul de obținere, analizare, stocare și utilizare a informației digitale destinate deciziilor economice și financiare. Proiectul Brainwave[2] dezvoltat de Microsoft promite accesul la servicii de inteligenţă artificială în timp real, cu aplicație în special în mediul financiar și cercetare.
Sistemele imersive cognitive permit conducerea corporațiilor dintr-un veritabil „cockpit” sau „punte” care conține camere de evaluare situațională, camere de diagnoză, camere decizionale (cognitive boardrooms), clase imersive etc., în care personalul uman va interacționa permanent cu agenți cognitivi artificiali. Pentru afacerile mai reduse (naționale, regionale), se estimează că, în următorii ani, accesul la servicii de inteligenţă artificială accesibile prin internet (internet-delivered AI) va reprezenta standardul pentru domeniul de business civil[3].
Inteligența artificială are potențialul de a declanșa o nouă revoluție industrială, care să redefinească relația dintre capital și muncă la nivel global. Una din cele mai probabile evoluții, fără îndoială generatoare de temeri, este șomajul masiv pe care îl presupune automatizarea la scară largă a proceselor de producție (estimat la unul din trei angajați cu vârsta cuprinsă între 25 și 54 de ani).
Reversul acestui fenomen este scăderea rolului demografiei din ecuația puterii unui stat, astfel că state smart cu populație redusă pot urca rapid pe scara competitivității la nivel mondial, în timp ce unele state cu populație numeroasă se vor confrunta cu dileme sociale și politice interne[4]. Totuși, un raport al MIT intitulat The Work of the Future: Shaping Technology and Institutions, dat publicității în toamna anului 2019, dedicat aprofundării relației dintre tehnologiile emergente și piața muncii moderează și nuanțează această retorică alarmistă a „prizonieratului tehnologic” inevitabil. Astfel, este de așteptat ca tehnologiile cognitive să devină multiplicatori de forță ai creativității și ingeniozității umane mai degrabă decât un substitut, contribuind la îmbunătățirea valorii expertizei și accelerării procesului de transformare a unei idei într-un produs utilizabil[5].
Volatilitatea mediului tradițional de securitate și ambiguitatea rezultată din erodarea granițelor dintre virtual și real, intern și internațional, comercial și militar, pace și conflict au obligat organizațiile de intelligence occidentale să evolueze către un spionaj de a patra generație, înțeles ca fuziunea dintre aptitudinile umane tradiționale și progresul tehnologic accelerat, noi parteneriate și abordări care asimilează diversitatea și oferă posibilitatea de afirmare generației tinere[6]. Amenințările hibride instrumentate de state adverse, dezvoltarea unor capacități de intelligence în rândul organizațiilor non-statale, agresiunile multinivel realizate în parteneriat de diverse structuri de crimă organizată și terorism etc. au obligat la reconsiderarea HUMINT-ului în plină dezvoltare a inteligenței artificiale și supercomputerelor. Capacitatea de a colabora în cadrul unor echipe dinamice, de a infiltra orice mediu socio-profesional, utilizarea maximală a mediului tehnologic şi a avantajelor asimetrice subliniază importanța resursei umane de excepție, a profesionalismului și loialității.
În domeniul militar, „The Third Offset Strategy” în Statele Unite accentuează importanţa dezvoltării accelerate a inteligenţei artificiale, a colaborării om-mașină și a atingerii „dominanţei cognitive”. Dezvoltarea serviciilor de intelligence predictiv (anticipativ) va limita șansele de apariție a surprizelor strategice și va dezvălui comportamentul actorilor statali și nonstatali chiar și în absența unor informații specifice.
Colaborarea om-mașină, abordare denumită metaforic de tip „centaur”[7], are drept scop virtualizarea elementelor de hardware militar în timp ce acestea vor fi „cognitizate” graţie inteligenţei artificiale. Operațiunile umane asistate au la bază utilizarea de sisteme care să extindă capacităţile fizice umane (exoschelete, în principal), însă oferta robotică este una deosebit de creativă. La limită, îmbunătățirea umană (fizică, neuropsihologică, comportamentală) și cea exterioară vor converge către „operațiuni umane augmentate” („Enhanced Human Operations”), considerate o certitudine a viitoarelor conflicte.
Colaborarea avansată om-mașină (teaming) va accentua importanţa actului decizional uman, care prin delegarea sarcinilor uzuale către partenerul artificial se va putea concentra asupra deciziilor-limită, etice sau executive. Armele semiautonome, deși îmbină calitățile ambelor tipuri de inteligenţă, vor fi expuse și riscului de eroare rezultat din interacțiunea om-mașină, precum și riscului de penetrare cibernetică[8].
Războiul electronic cognitiv (cognitive Electronic Warfare) reprezintă etapa viitoare a contramăsurilor electronice de orbire și disimulare radar și va constitui unul din pilonii dominării spectrului electromagnetic[9]. Este de așteptat ca radarele cuantice, soluțiile de inteligență artificială, dronele avansate și armele hipersonice să modifice radical conceptele de apărare antiaeriană și să amprenteze arhitectura măsurilor de descurajare strategică. Noile doctrine militare promovate de Statele Unite ca răspuns la provocările din ultimii ani, precum războiul-mozaic, confirmă rolul esențial al inteligenţei artificiale în vederea interoperabilizării, conectivității, flexibilității și utilizării maximale a tuturor resurselor din generații diferite[10].
Statutul de tehnologii strategice pentru domeniul securității naționale este subliniat și de numeroasele inițiative din SUA cu scopul de a genera, identifica, valorifica și accelera utilizarea soluțiilor de inteligenţă artificială avansată.
Defense Innovation Unit Experimental[11] este o inițiativă lansată de fostul secretar al apărării, Ashton Carter, cu scopul de a apropia mediul tehnologic civil de nevoile instituțiilor din domeniul securității naționale („reconstruirea podului dintre Silicon Valley și Pentagon”[12]). O altă inițiativă remarcabilă este Electronics Resurgence Initiative (ERI)[13] realizată de DARPA, un plan de investiții de 1.5 miliarde USD pe o perioadă de cinci ani, care are drept obiective stimularea tehnologiilor electronice emergente cu aplicații în domeniul domestic, guvernamental și al apărării în SUA. Inteligența artificială, securitatea cibernetică, big data, tehnologiile robotice (autonome), senzorii avansați – purtabili, implantabili, ingerabili, nanosenzori, printabili etc. reprezintă domenii de interes în cadrul acestor programe.
Pentru mediul de intelligence și securitate națională, interesul pentru inteligența artificială, supercomputere și tehnologii emergente se datorează și potențialului de a modifica radical echilibrele de putere interstatale/interalianțe sau între state și organizații ostile non-statale. De exemplu, se estimează că soluțiile avansate de inteligență artificială au capacitatea de a influența strategiile nucleare ale marilor puteri și pot modifica echilibrul strategic. Rolurile potențiale pe care inteligența artificială le poate juca în contextul unui mediu de securitate tot mai multipolar subliniază versatilitatea, impactul remarcabil, dar și potențialele riscuri asociate: sistem decizional în timp de criză, componentă a dronelor autonome nucleare (ex. drona rusească Status-6), monitorizarea respectării acordurilor de control, sistem redundant (semi)automat destinat retalierii în cazul surprizei strategice, element în cadrul sistemului de alarmă timpurie[14] etc., sistem de management al arsenalului nuclear (viitorul supercomputer „El Capitan”[15] – SUA, care în momentul operaționalizării depline va da naștere celui mai puternic binom energie-informație din toate timpurile).
Și în cazul altor tipuri de arme de distrugere în masă, se consideră că prin convergența a trei tehnologii emergente – manufacturarea aditivă, inteligența artificială și robotică – se poate facilita dezvoltarea de produși biologici și chimici, precum și a vectorilor de transport necesari lansării unui atac. Deși expertiza necesară automatizării producției este una de vârf, o serie de factori, precum dezvoltarea accelerată, dubla utilizare comercială și militară, lipsurile din legislațiile naționale și reglementările internaționale, utilizarea atacurilor informatice sau de inginerie socială cu scopul sustragerii de informații sensibile etc., zugrăvesc un scenariu mai puțin optimist pe termen mediu[16].
În domeniul civil, în paralel cu dezvoltarea serviciilor de cognitizare, sunt depuse eforturi susținute pentru înțelegerea în profunzime a sistemului nervos central, emularea și reproducerea funcțiilor sale in silico și crearea unor arhitecturi hardware inovatoare (chipuri neuromorfe) care să permită dezvoltarea acestei nișe.
În Europa, proiectul Blue Brain[17]reprezintă cel mai notabil demers care a obținut o serie de succese remarcabile, deși întârzierile în serie au demonstrat complexitatea şi dificultatea acestei sarcini. În Statele Unite, „The BRAIN Initiative”[18] lansată de președintele Barack Obama a dat startul unei competiții acerbe pentru dezvoltarea neuroștiințelor și neurotehnologiilor, considerate vitale pentru prosperitatea și securitatea în secolul 21. Un exemplu concret îl constituie șiprogramul Virtual Intelligence Processing (VIP) lansat în anul 2018 de către DARPA al cărui scop este de „a explora abordări matematice și computaţionale inovative, scalabile, inspirate din cercetarea sistemului nervos și care au potențial să sprijine obținerea de soluții la probleme militare reale”[19].
Inițiative similare, însă de o anvergură mai redusă și cu obiective limitate, se desfășoară și în China (China Brain Project – de exemplu chipul hibrid Tianjic[20] – clasic/neuromorf), Canada (Canadian Brain Research Strategy[21]) India, Japonia (Brain/Minds[22]), Australia (Australian Brain Alliance[23]), Coreea de Sud (Korea Brain Initiative[24]), Federația Rusă. O competiție în spirală este în desfășurare, rezultatele fiind vizibile în dezvoltarea ultimei generații de avioane, drone capabile să desfășoare activități în orice mediu fizic, arme cibernetice sau tehnologii spațiale[25].
Datorită utilizării aplicațiilor neuro, o serie de aplicații ale inteligenţei artificiale, grupate sub forma a doi clusteri principali – percepția și cunoașterea (cognition) –, permit abordarea competitivă a unor funcții umane. Cele mai invocate exemple sunt recunoașterea imaginilor, înțelegerea limbajului vorbit sau identificarea de soluții la diverse tipuri de probleme (problem solving) – optimizare, simulare, predicție.
În multe situații, performanțele umane au fost deja depășite („performanțe superumane”), impactul asupra sistemelor militare și economiei începând să fie vizibil. O serie de aplicații aparent specific umane, precum interpretarea limbajului nonverbal, a stărilor și comportamentelor emoționale, au atins deja un nivel de performanţă comparabil cu cel al subiecților umani.
Etapa ulterioară o constituie trecerea de la un stadiu de evaluare pasivă la influențarea activă, dinamică. Acest nivel presupune o evaluare profundă, multinivel, a tuturor aspectelor de personalitate a audienţei, capacitatea de evaluare în timp real, atât individual cât și în cadrul grupului social, numeroase bucle de feedback etc. Cu toate că reprezintă încă un deziderat, o serie de aplicații din domeniul psihologiei, psihiatriei, sociologiei, sociofizicii, neuroștiințelor computaționale etc. demonstrează că domeniul se află în plină expansiune[26]. Un exemplu în acest sens îl reprezintă Deep Mind[27], o inițiativă a companiei Google, care promovează apropierea dintre neuroștiințe și inteligenţa artificială. Sunt invocate două motive principale ale acestei asocieri: validarea metodelor de inteligenţă artificială care emulează funcții neurofiziologice umane și utilizarea cunoașterii (biologice) despre sistemul nervos și sistemul psihic în realizarea unor noi tipuri de algoritmi și arhitecturi necesare dezvoltării neurochipurilor și aplicațiilor de inteligenţă artificială care să dezvolte capacități „superumane”.
De altfel, dezvoltarea unor capacități peste media utilizatorului uman și apoi peste limitele maximale umane reprezintă standardul „minimal” de validare a unei aplicații de inteligenţă artificială. În mai multe situații, cunoașterea unor aspecte de ontogenie, filogenie sau evoluție a sistemului nervos a permis realizarea unor abordări aparent contraintuitive, dar care au permis obținerea unor performanțe deosebite sau inovatoare. Circuitul este bidirecțional – o serie de aplicații de inteligenţă artificială sunt utilizate pentru modelarea unor aspecte neurofiziologice la nivel molecular sau a circuitelor neuronale[28].
Recent, relația dintre inteligenţa artificială și neuroaugmentare a devenit și mai strânsă ca urmare a evaluării in silico a potențialelor efecte de augmentare a mai multor molecule-candidat, etapa care o precede pe cea a testărilor în organisme vii[29]. De exemplu, un startup de biotehnologie din Hong Kong, InSilico Medicine[30], a utilizat în anul 2019 o metodă de AI numită învățarea cu întărire (reinforcement learning) pentru a genera 30 000 de molecule cu potențial teoretic care au fost filtrate computațional până în stadiul în care au rezultat șase molecule-candidat. Acestea au fost sintetizate și testate prin intermediul studiilor pe animale de laborator. Tot acest proces a durat 46 de zile, o fracțiune din timpul necesar în prezent pentru a obține un rezultat similar prin metoda clasică a studiilor preclinice.
Totuși, deși cognitizarea și inteligența artificială generalizată vor determina o modificare fundamentală a stilului de viață, a distribuției bogăției și a puterii militare și economice la nivel global, considerăm că nu vor afecta unul din aspectele fundamentale ale sistemului social – actul decizional va rămâne atributul puterii politice umane. În fapt, asistăm la o inversare a circuitului, cognitizarea fiind utilizată mai puțin în mod deductiv, pentru a oferi soluții creative la problemele actuale sau la creionarea unui viitor, cât pentru a identifica argumente care să susțină punctele de vedere ale leadershipului politic. Putem discuta despre o tendință de utilizare a soluțiilor avansate de inteligență artificială în scopul guvernanței și dominanței la scară regională (sau chiar cu impact global), de exemplu sistemul monolitic al corporațiilor occidentale generatoare de tehnologie, vastul sistem de supraveghere algoritmic controlat de Partidul Comunist Chinez sau viitorul sistem de inteligență artificială pan-islamic, propus de către prințul moștenitor Mohammed bin Salman al Arabiei Saudite[31]. În forme extreme, observăm cum regimuri autoritare s-au adaptat și utilizează comunicațiile digitale (supraveghere, tehnologii de recunoaștere cu ajutorul soluțiilor de machine learning, atacuri cibernetice, furt de date informatice, dezinformare, cenzura internetului etc.) pentru consolidarea puterii politice și controlul fluxului informațional[32].
În contextul demersului nostru, considerăm esențială abordarea inteligenţei artificiale ca partener actual şi, mai ales, viitor al minții umane talentate, educate, etice și neuroaugmentate. Complexitatea estimată a inteligenţei artificiale, în raport cu limitele biologice ale inteligenţei umane, obligă la identificarea „sinapselor tehnologice” care să permită conectarea celor două tipuri de inteligenţe.
O serie de fațete ale inteligenței artificiale au devenit esențiale în practică, aspect subliniat cel mai bine de înființarea, pentru prima dată în ultima jumătate de secol, a unui nou directorat de către Central Intelligence Agency – cel pentru Inovare Digitală (The Directorate of Digital Innovation – DDI). Importanța strategică acordată inteligenței artificiale și mai ales potențialul estimat pe termen lung în Statele Unite sunt relevate și de o serie de documente succesive emise la cel mai înalt nivel: Cyber Strategia Națională a SUA[33] (septembrie 2018), Ordinul executiv pentru menținerea leadershipului american în domeniul inteligenței artificiale[34] emis în februarie 2019 de către președintele Donald Trump, Strategia Departamenului de Apărare (DoD) în privința inteligenței artificiale[35] (februarie 2019).
Am abordat o serie de puncte de intersecție dintre cele două domenii (inteligența artificială și îmbunătățirea performanțelor umane) în raport cu tema dezbătută în această carte și, mai ales, corelate cu cercetarea efectuată. Câteva direcții, precum interfețele creier-computer, aplicațiile inteligenței artificiale pentru antrenamentul cognitiv și computingul afectiv sunt detaliate în cadrul altor articole.
Esența demersului nostru are în vedere în special aspectele menționate – complexitatea și fluiditatea amenințărilor de securitate contemporane, rolul tehnologiei în modelarea evoluției vieții sociale (inclusiv a fizionomiei conflictelor) și importanţa resursei umane performante în asigurarea progresului și securității. Considerăm ca metodele de îmbunătățire a resursei umane – la nivel individual, colectiv sau prin optimizarea culturii instituționale și manageriale – prezintă un aspect strategic al atingerii superiorității în câmpul informațional, condiție esențială a succesului în domeniul securității, afacerilor sau cercetării.
[1] https://www.ibm.com/watson/
[2] https://www.microsoft.com/en-us/research/microsoft-unveils-project-brainwave/
[3] Mary L. Martialay, IBM Research and Rensselaer Polytechnic Institute Pioneer text-Generation Cognitive Environments for Business Decision Making. RPI news, 18.12.2015, disponibil la https://news.rpi.edu/content/2015/11/17/ibm-research-and-rensselaer-pioneer-next-generation-cognitive-environments.
[4] Greg Allen, Taniel Chan, Artificial Intelligence and National Security. Belfer Center Study, Harvard Kennedy School, 07.2017, p. 35-42, disponibil la https://www.belfercenter.org/sites/default/files/files/ publication/AI%20NatSec%20-%20final.pdf.
[5] MIT Task Force on the Work of the Future. The Work of the Future: Shaping Technology and Institutions. 09.2019, disponibil la https://workofthefuture.mit.edu/sites/default/files/2019-09/WorkoftheFuture_ Report_Shaping_Technology_and_Institutions.pdf.
[6] Alex Young, discurs, 03.12.2018, disponibil la https://www.gov.uk/government/speeches/mi6-c-speech-on-fourth-generation-espionage.
[7] Sydney Freedberg, Centaur Army: Bob Work, Robotics, & The Third Offset Strategy. Break. Def., 09.10.2015, disponibil la http://breakingdefense.com/2015/11/centaur-army-bob-work-robotics-the-third-offset-strategy/.
[8] Paul Norwood, Benjamin Jensen, Wargaming the Third Offset Strategy, Joint Force Quarterly 83, 01.10.2016, disponibil la http://ndupress.ndu.edu/Media/tews/Article/969655/wargaming-the-third-offset-strategy/.
[9] Eric Tegler, Why DARPA Needs AI to Defeat Enemy Radar. 13.09.2016, Popular Mechanics, disponibil la http://www.popularmechanics.com/military/research/news/a22834/darpa-ai-defeat-enemy-radar/.
[10] https://www.darpa.mil/news-events/2017-08-04.
[11] Jessi Hempel, DoD head Ashton Carter enlists Silicon Valley to transform the military, The Wired, 18.11.2015, disponibil la https://www.wired.com/2015/11/secretary-of-defense-ashton-carter/.
[12] Tom Simonite, Defense Secretary James Mattis envies Silicon Valley’s AI ascent. The Wired, 11.08.2017, disponibil la https://www.wired.com/story/james-mattis-artificial-intelligence-diux/mbid=nl-81111CtDD.
[13] https://www.darpa.mil/news-events/2018-11-01a.
[14] Edward Geist, Andrew L. Lohn, How might artificial intelligence affect the risk of nuclear war ?. Security 2040 series, RAND Corporation, 2018, disponibil la https://www.rand.org/pubs/perspectives/PE296.html.
[15] https://www.cray.com/company/news-and-media/doe-el-capitan-press-release.
[16] Kolja Brockmann, Sibylle Bauer, Vincent Boulanin BIO PLUS X Arms Control and the Convergence of Biology and Emerging Technologies. SIPRI, 03.2019, disponibil la https://www.sipri.org/sites/default /files/2019-03/sipri2019_bioplusx_0.pdf.
[17] http://bluebrain.epfl.ch/
[18] https://www.braininitiative.nih.gov/
[19] https://www.fbo.gov/index?s=opportunity&mode=form&id=2a8bf151a50bf413f7ea6e2fe2c63f1b&tab= core&_cview=0
[20] Jing Pei, Lei Deng, Sen Song, Mingguo Zhao, Youhui Zhang, Shuang Wu, Guanrui Wang, Zhe Zou, Zhenzhi Wu, Wei He, Feng Chen, Ning Deng et all. Towards artificial general intelligence with hybrid Tianjic chip architecture. 31.07.2019, Nature vol. 572, pp.106–111, disponibil la https://www.nature.com/articles/s41586-019-1424-8.
[21] https://canadianbrain.ca/.
[22] https://brainminds.jp/.
[23] https://www.brainalliance.org.au/.
[24] http://www.kbri.re.kr/new/pages_eng/sub/page.html?mc=3186.
[25] Andrew Clevenger, ‘The Terminator Conundrum’: Pentagon Weighs Ethics of Pairing Deadly Force, AI. 23.01.2016, Defense News, disponibil la http://www.defensenews.com/2016/01/23/the-terminator-conundrum-pentagon-weighs-ethics-of-pairing-deadly-force-ai/.
[26] Erik Brynjolfsson, Andrew McAfee, The business of artificial intelligence. HBR, 07.2017, disponibil la https://hbr.org/cover-story/2017/07/the-business-of-artificial-intelligence.
[27] https://deepmind.com
[28] Demis Hassabis, Dharshan Kumaran, Christopher Summerfield, Matthew Botvinick, Neuroscience-Inspired Artificial Intelligence. Neuron, 06.2017, vol. 19;95(2), p. 245-258, disponibil la https://deepmind.com //ai-and-neuroscience-virtuous-circle/.
[29] Kurzweil digest. An ‘in silico’ method of predicting effectiveness of cognitive enhancers. 17.02.2017, disponibil la http://www.kurzweilai.net/an-in-silico-method-of-predicting-effectiveness-of-cognitive-enhancers.
[30] https://insilico.com/#rec41711523
[31] Stan Stalnaker. Technology-oriented religions are coming. 09.10.2019, Quartz, disponibil la https://qz.com/1723739/technology-oriented-religions-are-coming/?utm_source=reddit.com.
[32] Marcus Michaelsen, Marlies Glasius. Authoritarian Practices in the Digital Age. International Journal of Communication no. 12(2018), pp. 3788–3794, disponibil la https://ijoc.org/index.php/ijoc/article/view File/8536/2458.
[33] https://www.whitehouse.gov/wp-content/uploads/2018/09/National-Cyber-Strategy.pdf
[34] https://www.whitehouse.gov/presidential-actions/executive-order-maintaining-american-leadership-artific ial -intelligence/
[35] https://media.defense.gov/2019/Feb/12/2002088963/-1/-1/1/SUMMARY-OF-DOD-AI-STRATEGY.PDF
