V sredo, 24. januarja 2024, na god sv. Frančiška Saleškega, je izšla poslanica svetega očeta Frančiška za 58. svetovni dan sredstev družbenega obveščanja, ki ga letos v številnih državah praznujemo 12. maja 2024 na temo Umetna inteligenca in modrost srca: za popolnoma človeško komunikacijo.
Dragi bratje in sestre!
Razvoj sistemov tako imenovane »umetne inteligence«, o kateri sem razmišljal še v nedavnem Sporočilu za svetovni dan miru, radikalno spreminja tudi informacijo in komunikacijo, preko njih pa tudi nekatere temelje civilnega sobivanja. Gre za spremembo, ki vključuje vse, ne samo strokovnjake. Pospešeno širjenje čudovitih izumov, katerih delovanje in sposobnosti so za večino izmed nas nedoumljivi, vzbuja začudenje, ki niha med navdušenjem in zmedenostjo in nas neogibno postavlja pred temeljna vprašanja: kaj je torej človek, kakšna je njegova posebnost in kašna bo prihodnost te naše vrste, ki se imenuje homo sapiens v dobi umetne inteligence? Kako lahko ostanemo popolnoma človeški in k dobremu usmerimo kulturno spremembo, ki poteka?
Začeti iz srca
Najprej je koristno, da teren izpraznimo katastrofičnih razlag in njihovih hromečih učinkov. Že pred enim stoletjem je Romano Guardini, ko je razmišljal o tehniki in o človeku, povabil, naj ne otrpnemo proti »novemu« v poskusu, da bi »ohranili lep svet, ki je obsojen na izginotje«. Istočasno pa je preroško žalostno opozoril: »Naše mesto je v postajanju. Vanj se moramo vključiti vsak dan, vsak na svojem mestu (…), ko se mu pošteno pridružimo, a kljub temu ostanemo občutljivi, z nepokvarljivim srcem za vse, kar je v njem uničujočega in nečloveškega.« Zaključil je: »Res je, gre za težave tehnične, znanstvene, politične narave; toda teh ni mogoče rešiti drugače, kot da izhajamo iz človeka. Oblikovati se mora nov tip človeka, obdarjen z globljo duhovnostjo, z novo svobodo in novo notranjostjo.«[1]
V tem času, ki je v nevarnosti, da postane tehnično bogat in osiromašen v človeškosti, morajo naša razmišljanje izhajati iz človekovega srca.[2] Samo če se oskrbimo z duhovnim pogledom, samo če si povrnemo modrost srca, lahko beremo novosti našega časa in ponovno odkrijemo pot do popolnoma človeške komunikacije. Srce, ki je svetopisemsko razumljeno kot sedež svobode in najpomembnejših odločitev življenja, je znamenje celovitosti, enotnosti, hkrati pa spominja na čustva, želje, sanje, predvsem pa je notranji prostor srečanja z Bogom. Modrost srca je zato tista krepost, ki nam omogoča zasnovati skupaj celoto in dele, odločitve in njihove posledice, višine in krhkosti, preteklost in prihodnost, jaz in mi.
Modrost srca se pusti najti tistim, ki jo iščejo in se da videti tistim, ki jo ljubijo; prehiteva tiste, ki si jo želijo in išče tiste, ki bi bili tega vredni (prim. Mdr 6,12-16). Tako je s tistimi, ki sprejemajo nasvete (prim. Pt13,10), ki imajo učljivo srce, srce ki posluša (prim. 1 Kr 3,9). Je dar Svetega Duha, ki omogoči, da vidimo stvari z Božjimi očmi, da razumemo povezave, razmere, dogodke in da odkrije njihov pomen. Brez te modrosti bi bivanje postalo plehko, saj ravno modrost, - latinski koren sapere jo združuje s sapore – daje okus življenju.
Priložnost in nevarnost
Te modrosti ne moremo zahtevati od strojev. Čeprav je izraz umetna inteligencado sedaj izpodrinil bolj pravilnega, ki se uporablja v znanstveni literaturi, strojno učenje, je sama raba besede »inteligenca« zavajajoča. Stroji seveda imajo neizmerno večjo zmogljivost kot ljudje za pomnjenje dejstev in njihovo medsebojno povezovanje, vendar pa je na ljudeh in samo na ljudeh, da razvozlajo njihov pomen. Ne gre torej za to, da bi od strojev zahtevali, da bi izgledali kot ljudje. Prej gre za zbujanje človeka iz hipnoze, v katero je padel zaradi svojega vsemogočnega delirija, ker se je imel za popolnoma avtonomen in samozadosten subjekt, ki je ločen od vsake družbene vezi in je pozabil na svojo ustvarjenost.
V resnici človek od nekdaj doživlja, da ni dovolj samemu sebi in skuša z vsemi sredstvi preseči svojo ranljivost. Od prvih predzgodovinskih orodij, uporabljenih kot podaljšanje rok, preko medijev, uporabljenih kot razširjenje besede, smo danes prišli do najbolj izpopolnjenih strojev, ki delujejo kot pomoč misli. Vsako od teh resničnosti pa lahko okuži prvotna skušnjava, da bi postali kakor Bog brez Boga (prim. 1 Mz 3), kar pomeni, da bi želeli s svojimi močmi osvojili to, kar bi morali namesto tega sprejeti kot Božji dar in živeti v odnosu z drugimi.
Glede na usmerjenost srca postane vsaka stvar v človekovih rokah priložnost ali nevarnost. Njegovo lastno telo, ki je ustvarjeno, da bi bilo prostor komunikacije in občestva, lahko postane sredstvo napadalnosti. Na enak način je lahko vsaka tehnična dopolnitev človeka orodje ljubečega služenja ali sovražnega gospodovanja. Sistemi umetne inteligence lahko prispevajo k procesu osvobajanja od nevednosti in omogočijo izmenjavo informacij med različnimi ljudstvi in generacijami. Lahko na primer naredijo dosegljivo in razumljivo ogromno dediščino znanja, zapisanega v preteklih obdobjih ali omogočijo ljudem, da komunicirajo v njim neznanih jezikih. Istočasno pa so lahko tudi orodja »kognitivnega onesnaženja«, spreminjanja resničnosti preko delno ali popolnoma napačnih pripovedi, za katere pa vendarle verjamemo – in jih delimo naprej – kot bi bile resnične. Dovolj je, če pomislimo na problem dezinformacij, s katerimi se že leta srečujemo na primeru lažnih novic[3] in ki se danes okorišča z globoko potvorbo, se pravi z ustvarjanjem in širjenjem podob, ki se zdijo popolnoma verjetne, vendar so lažne (tudi meni se je zgodilo, da sem bil predmet tega), ali avdio sporočil, ki uporabljajo glas neke osebe in govorijo stvari, ki jih ta oseba ni nikdar rekla. Simulacija, ki je osnova teh programov, je lahko koristna na nekaterih posebnih področjih, postane pa sprevržena tam, kjer izkrivlja odnos z drugimi in z resničnostjo.
Iz prvega vala umetne inteligence, iz vala družbenih medijev smo že iz prve roke spoznali njeno ambivalentnost, ko smo se poleg priložnosti dotaknili tudi njenih tveganj in patologij. Druga stopnja generativne umetne inteligence pomeni nesporen kvalitativni skok. Zato je pomembno, da imamo možnost dojeti, razumeti in urejati orodja, ki bi v napačnih rokah lahko odprla negativne scenarije. Kot vsaka druga stvar, ki je prišla iz človekovega uma in njegovih rok, tudi algoritmi niso nevtralni. Zato je potrebno delovati preventivno in predlagati modele etičnega urejanja, da bi obrzdali škodljive in diskriminatorne ter družbeno krivične plati sistemov umetne inteligence in se zoperstaviti njihovi uporabi pri zmanjšanju pluralnosti, v polarizaciji javnega mnenja ali v graditvi ene same misli. Ponavljam torej moj poziv in spodbujam »skupnost narodov, da deluje združena, da bi sprejeli zavezujočo mednarodno pogodbo, ki naj ureja razvoj in uporabo umetne inteligence v njenih številnih oblikah.«[4] Kljub temu pa kot na vseh človeških področjih, pravila niso dovolj.
Rast v človečnosti
Poklicani smo, da rastemo skupaj v človečnosti in kot človeštvo. Pred nas je postavljen izziv, da naredimo kvalitetni preskok, da bi bili na ravni zapletene, večetnične, pluralne, večverske in večkulturne družbe. Na nas je, da se vprašamo glede teoretičnega razvoja in praktične rabe teh novih sredstev komunikacije in znanja. Velike možnosti za dobro spremlja nevarnost, da bi se vse spremenilo v abstraktni račun, ki ljudi skrči na podatke, misel na obrazec, izkustvo na primer, dobro na dobiček, predvsem pa da bi na koncu zanikali enkratnost vsake osebe in njene zgodovine, ko bi konkretnost resničnosti razkrojili v vrsto statističnih podatkov.
Digitalna revolucija nas lahko naredi bolj svobodne, vendar nikakor ne, če nas zapre v modele, ki so danes znani kot odmevne komore. Namesto da se poveča pluralnost informacij, smo v teh primerih v nevarnosti, da se izgubimo v anonimnem močvirju, ko bi podpirali interese trga ali oblasti. Ni sprejemljivo, da bi uporaba umetne inteligence vodila k anonimni misli, k kombiniranju nepreverjenih podatkov, h kolektivni uredniški neodgovornosti. Predstavitev resničnosti v velikih podatkih, čeprav je funkcionalna za upravljanje strojev, namreč vključuje bistveno izgubo resničnosti stvari, ki ovira medosebno komuniciranje in predstavlja tveganje, da škoduje naši človečnosti. Informacije ne moremo ločiti od bistvenega odnosa: vključuje telo, bivanje v stvarnosti; zahteva povezovanje ne samo podatkov; poleg vzajemne delitve zahteva obraz, pogled in sočutje.
Mislim na pripoved o vojnah in o »vzporedni vojni«, ki se bije preko dezinformacijskih kampanj. Mislim na veliko novinarjev, ki so ranjeni ali umrejo na bojnem polju, da bi nam omogočili videti, kar so videle njihove oči. Kajti samo če se od blizu srečamo s trpljenjem otrok, žensk in moških, lahko razumemo absurdnost vojne.
Uporaba umetne inteligence bi lahko pozitivno prispevala na področju komunikacije, če ne bi izničila vloge novinarstva na terenu, ampak bi ga podpirala; če bi poudarila profesionalnost komuniciranja in vsakemu poročevalcu dala odgovornost; če bi vsakemu človeškemu bitju vrnila vlogo subjekta s kritično sposobnostjo same komunikacije.
Vprašanja za danes in jutri
Nekatera vprašanja se zato postavljajo spontano: kako zaščititi strokovnost in dostojanstvo delavcev na področju komunikacije in informacije, skupaj z dostojanstvom uporabnikov po vsem svetu? Kako zagotoviti medsebojno operabilnost programskih osnov? Kako zagotoviti, da bodo podjetja, ki razvijajo digitalne programske osnove, prevzela svojo odgovornost glede tega, kar razširjajo in od česar hočejo imeti dobiček, podobno kot se dogaja založnikom tradicionalnih medijev? Kako povečati preglednost meril, ki so v osnovi algoritmov za indeksiranje in de-indeksiranje ter brskalnikov, ki so sposobni povzdigniti ali izbrisati ljudi ali mnenja, zgodbe in kulture? Kako zagotoviti preglednost informacijskih procesov? Kako napraviti razvidno avtorstvo spisov in sledljivost virov ob onemogočenju španske stene anonimnosti? Kako razjasniti, ali neka podoba ali nek video prikazuje dogodek ali ga simulira? Kako se izogniti, da bi se viri skrčili na enega samega, na eno samo algoritemsko izdelano misel? In kako spodbujati okolje, ki bo primerno za ohranjanje pluralizma in za prestavljanje zapletenosti resničnosti? Kako je lahko to močno, drago in skrajno intenzivno orodje trajnostno? Kako ga lahko napravimo dostopnega tudi za države v razvoju?
Iz odgovorov na ta in druga vprašanja bomo razumeli, če bo umetna inteligenca na koncu ustvarila nove kaste, ki bodo temeljile na informacijski moči in bodo ustvarjale nove oblike izkoriščanja in neenakosti; ali pa bo nasprotno vodila k večji enakosti in spodbujala pravilno informiranje in večjo zavedanje o prehodu obdobja, skozi katerega gremo, ob spodbujanju posluha za mnogotere potrebe ljudi in ljudstev v razčlenjenem in pluralnem sistemu informiranja. Na eni strani se oblikuje fantom novega suženjstva, na drugi pa osvojitev svobode; na eni strani možnost, da zgolj nekateri pogojujejo misel vseh, na drugi strani pa, da vsi sodelujejo pri izdelavi misli.
Odgovor ni napisan; odvisen je od nas. Človeku pripada odločitev, ali bo postal hrana za algoritme, ali pa bo svoje srce hranil s svobodo, brez katere ne more rasti v modrosti. Ta modrost dozoreva s tem, da čas spreminja v zaklad in sprejema ranljivost. Raste v zavezi med generacijami, med tistimi, ki se spominjajo preteklosti, in tistimi, ki imajo vizijo prihodnosti. Samo skupaj raste sposobnost razločevanja, čuječnosti, videnja stvari iz njihove dopolnitve. Da ne bi izgubili svoje človeškosti, iščimo Modrost, ki je pred vsem (prim. Sir 1,4), ki skozi čista srca pripravlja Božje prijatelje in preroke (prim. Mdr 7,27). Pomagala nam bo, da bomo tudi sisteme umetne inteligence razvrstili v popolnoma človeško komunikacijo.
Rim, sv. Janez v Lateranu, 24. januarja 2024
Frančišek
[1] Lettere dal lago di Como, Brescia 20225, 95-97.
[2] Kot nadaljevanje poslanic za prejšnje Svetovne dneve za družbene komunikacije, posvečenih Srečanju z ljudmi tam kjer so in kakršni so (2021) in Poslušati z ušesom srca (2022) in Govoriti s srcem (2023).
[3] Prim “Resnica vas bo osvobodila” (Jn 8,32). Lažne novice in novinarstvo miru. Poslanica za LII Svetovni dan družbenih občil, 2018.
[4] Sporočilo za LVII. Svetovni dan miru, 1. januarja 2024, 8.
