Vatikán 29. januára (VaticanNews) Vyšla nóta dikastérií pre náuku viery a pre kultúru a vzdelávanie o vzťahu medzi umelou inteligenciou a ľudskou inteligenciou. Má názov: „Umelá inteligencia nie je umelou formou inteligencie, ale jedným z jej produktov“. Zdôraznené sú potenciál a výzvy v oblasti vzdelávania, ekonomiky, práce, zdravia, ľudských a medzinárodných vzťahov a v oblasti vojnových súvislostí.
Pápežove výstrahy v súvislosti s umelou inteligenciou z posledných rokov tvoria osnovu nóty Antiqua et Nova o vzťahu medzi umelou a ľudskou inteligenciou, ktorá je plodom vzájomnej reflexie medzi Dikastériom pre náuku viery a Dikastériom pre kultúru a vzdelávanie.
Dokument je adresovaný tým, ktorí sú povolaní vychovávať a odovzdávať vieru, ale aj tým, ktorí zdieľajú potrebu vedeckého a technologického rozvoja „v službe osobe a spoločnému dobru“ [5]. V 117 bodoch Antiqua et Nova sa poukazuje na výzvy a možnosti rozvoja umelej inteligencie (AI) v oblasti vzdelávania, hospodárstva, práce, zdravia, vzťahov a kontextoch vojny.
V poslednej menovanej sfére by napríklad potenciál AI mohol zvýšiť vojnové zdroje „ďaleko za hranicami ľudskej kontroly“, čo by urýchlilo „destabilizujúce preteky v zbrojení s ničivými dôsledkami pre ľudské práva“ [99].
Nebezpečenstvá a pokrok
Dokument podrobnejšie uvádza nebezpečenstvá AI, ale aj pokrok, ktorý podporuje ako „súčasť spolupráce“ človeka s Bohom [2]. Nezakrýva však obavy, ktoré sú spojené so všetkými inováciami, ktorých dôsledky sú zatiaľ nepredvídateľné.
Rozlišovanie medzi umelou inteligenciou a ľudskou inteligenciou
Niekoľko odsekov dokumentu je venovaných rozlišovaniu medzi umelou inteligenciou a ľudskou inteligenciou. „Zavádzajúce“, ako sa dočítame, je používanie samotného slova ‚inteligencia‘ v súvislosti s AI: nejde o ‚umelú formu inteligencie‘, ale o ‚jeden z jej produktov‘ [35]. A ako každý produkt ľudskej vynaliezavosti, aj AI môže byť zameraná na „pozitívne alebo negatívne ciele“. Umelá inteligencia môže skutočne zaviesť „dôležité inovácie“ [48], ale môže tiež riskovať zhoršenie situácií diskriminácie, chudoby, digitálnej priepasti, sociálnej nerovnosti [52]. „Etické obavy“ vzbudzuje skutočnosť, že „väčšina moci nad hlavnými aplikáciami umelej inteligencie je sústredená v rukách niekoľkých mocných spoločností“ [53], takže táto technológia je nakoniec manipulovaná na „osobný alebo firemný prospech“ [53].
Vojna
V súvislosti s vojnou sa v dokumente zdôrazňuje, že „vážny dôvod na etické obavy“ predstavujú autonómne a smrtiace zbraňové systémy schopné „identifikovať a zasiahnuť ciele bez priameho zásahu človeka“ [100]. Pápež vyzval na zákaz ich používania, keďže predstavujú reálnu hrozbu pre „prežitie ľudstva alebo celých regiónov“ [101]. Tieto technológie „dávajú vojne nekontrolovateľnú ničivú silu, ktorá postihuje mnoho nevinných civilistov, pričom nešetrí ani deti“, uvádza sa v dokumente Antiqua et Nova.
Ľudské vzťahy
Pokiaľ ide o medziľudské vzťahy, v nóte sa uvádza, že AI môže viesť k „škodlivej izolácii“ [58], že „antropomorfizácia AI“ predstavuje problém pre rast detí [60], a že predstavovanie AI ako osoby je „vážnym etickým porušením“, ak sa to používa na podvodné účely. Rovnako aj používanie AI na klamanie v kontextoch, ako je vzdelávanie, vzťahy, sexualita, je „nemorálne a vyžaduje si starostlivú ostražitosť“ [62].
Hospodárstvo a práca
Rovnaká ostražitosť sa vyžaduje aj v hospodárskej a finančnej oblasti. Osobitne v oblasti práce sa konštatuje, že zatiaľ čo na jednej strane má umelá inteligencia „potenciál“ zvyšovať zručnosti a produktivitu, na druhej strane môže „znižovať kvalifikáciu pracovníkov, podrobovať ich automatizovanému dohľadu a odsúvať ich na strnulé a opakujúce sa funkcie“ [67].
Zdravie
Dostatok priestoru sa v dokumente venuje otázke zdravotnej starostlivosti. Pripomína sa obrovský potenciál rôznych aplikácií v oblasti medicíny a je tu aj varovanie, že ak by umelá inteligencia nahradila vzťah lekár – pacient, hrozilo by „zhoršenie“ osamelosti, ktorá často sprevádza chorobu. Treba sa tiež vyvarovať posilnenia „medicíny pre bohatých“, v ktorej ľudia s finančnými prostriedkami využívajú pokročilé nástroje, zatiaľ čo ostatní nemajú prístup ani k základným službám.
Vzdelávanie
Na riziká sa upozorňuje aj v oblasti vzdelávania. Ak sa umelá inteligencia používa obozretne, môže zlepšiť prístup k vzdelávaniu a ponúknuť študentom „okamžitú spätnú väzbu“ [80]. Problémom je, že mnohé programy „iba poskytujú odpovede namiesto toho, aby študentov nútili, aby ich sami našli alebo aby sami písali texty“; čo vedie k tomu, že sa nerozvíja kritické myslenie [82]. Nehovoriac o tom, koľko „skreslených alebo vymyslených informácií“ a „falošných správ (fake news)“ môžu niektoré programy vygenerovať [84].
Falošné správy a deepfake
Pokiaľ ide o falošné správy, dokument varuje pred vážnym rizikom, že by umelá inteligencia „generovala manipulovaný obsah a falošné informácie“ [85], ktoré by sa potom šírili s cieľom „oklamať alebo poškodiť“ [87]. Nóta apeluje na to, aby sa vždy „dbalo na kontrolu pravdivosti“ toho, čo sa zverejňuje, a aby sa v každom prípade zabránilo „zdieľaniu slov a obrazov, ktoré ponižujú ľudské osoby“, a vylúčilo „to, čo podnecuje nenávisť a neznášanlivosť“ alebo znevažuje „intimitu ľudskej sexuality“ [89].
Súkromie a kontrola
Pokiaľ ide o súkromie a kontrolu, nóta poukazuje na to, že niektoré typy údajov môžu zájsť tak ďaleko, že sa dotknú „dokonca aj svedomia“ [90], pričom hrozí, že sa všetko stane „akýmsi divadlom, ktoré možno špehovať“ [92]. „Digitálny dozor sa môže použiť na vykonávanie kontroly nad životom veriacich a vyjadrovaním ich viery“ [90].
Spoločný domov
Pokiaľ ide o tému stvorenia, aplikácie umelej inteligencie na zlepšenie vzťahu k spoločnému domovu sa hodnotia ako „sľubné“. Súčasné modely AI si zároveň vyžadujú „obrovské množstvo energie a vody a výrazne prispievajú k emisiám CO2, a zároveň konzumujú zdroje intenzívnym spôsobom“.
Vzťah s Bohom
Napokon nóta varuje pred rizikom, že by sa ľudia stali „otrokmi diel, ktoré sami vyrobili“. Z toho vyplýva odporúčanie: „Umelá inteligencia by sa mala používať len ako doplnkový nástroj k ľudskej inteligencii a nemala by nahrádzať jej bohatstvo“ [112].
Salvatore Cernuzio – Vatikán Preklad: Zuzana Klimanová