Künstliche Intelligenz ist in den letzten Jahren zu einem Thema geworden, das über technologische Kreise hinausgeht. Heute wird darüber in Politik, Kultur, Recht und im Alltag diskutiert. Nach Angaben von Eurostat nutzten im Jahr 2024 bereits mehr als 13 Prozent der Unternehmen in der EU mindestens eine Technologie der künstlichen Intelligenz, bei großen Unternehmen waren es fast die Hälfte. Der europäische Markt für künstliche Intelligenz hat einen Wert von mehreren zehn Milliarden Euro und soll der Wirtschaft bis 2030 einen Mehrwert von 600 Milliarden Euro bringen. Künstliche Intelligenz ist die Gegenwart, die unsere Kreativität, Wirtschaft und sozialen Beziehungen beeinflusst. Auch bei der Erstellung dieses Radiobeitrags habe ich mich der künstlichen Intelligenz bedient. Ich habe sie auf überraschend vielfältige Weise eingesetzt – zur Recherche, zur Unterstützung bei der Textvorbereitung, zur Gestaltung des Tons und als Hilfe bei der Übersetzung.

Mit all den Möglichkeiten, die uns die künstliche Intelligenz bietet, wachsen auch die Bedenken: Wie kann sichergestellt werden, dass KI-Systeme sicher, transparent und unter Berücksichtigung unserer Rechte funktionieren?

Da bi odgovorila na vprašanja povezana z razvojem in rabo umetne inteligence, je Evropska unija sprejela Uredbo (EU) 2024/1689, znano kot Akt o umetni inteligenci. To je prvo prizadevanje za celovit pravni okvir za umetno inteligenco na svetu. Akt je začel veljati avgusta 2024, v celoti pa bo obvezen od avgusta 2026 naprej.

Akt o umetni inteligenci si prizadeva preprečevati predvsem tveganja, ki jih prinaša umetna inteligenca. Preprečiti jih želi s kategorizacijo in ustrezno regulacijo posamezne ravni. Sisteme UI tako razvršča glede na tveganje v 4 kategorije:

• prepovedane prakse – to so tiste prakse, ki kršijo temeljne človekove pravice in dostojanstvo – recimo socialno razvrščanje, biometrično prepoznavanje v realnem času brez sodnega nadzora ali uporaba manipulativnih tehnik. Te prakse so prepovedane, ker pomenijo nevaren poseg v svobodo posameznika.
• visoko tvegani sistemi vključujejo UI, ki odločilno vpliva na zdravje, pravice ali prihodnost ljudi - denimo na področju zaposlovanja, izobraževanja, zdravstva, kreditiranja ali kritične infrastrukture – Ti sistemi so dovoljeni, ampak pod strogimi pogoji. Zahteve vključujejo: tehnično dokumentacijo, upravljanje kakovosti podatkov, ocene tveganja, registracijo v evropski bazi in nadzor nad delovanjem.
• manj tvegani sistemi – tveganje je manjše, a je še vedno potrebna transparentnost. Ponudniki morajo uporabnike jasno obvestiti, da uporabljajo UII. Na primer jasna označitev, kadar se pogovarjamo s klepetalnim robotom, kadar je besedilo ali slika ustvarjena strojno, uporabnik mora biti seznanjen, da UI s sistemom za prepoznavanje čustev ocenjuje njegove odzive.
• In zadnje, sistemi minimalnega tveganja, kamor sodi velika večina aplikacij Umetne inteligence:  prevajalniki, filtri nezaželene pošte, sistemi za priporočila (npr. glasbene aplikacije). Tu posebnih obveznosti skoraj ni.

Ta razdelitev ni le birokratska, ampak je tudi filozofsko vprašanje: kaj družba vidi kot sprejemljivo in kje postavi mejo?

Pomembne so številne pravice, ki jih moramo upoštevati in premisliti v oziru na zgornje vprašanje. V današnji oddaji, pa se bomo posvečali vprašanju avtorskih pravic in njihovi zastopanosti v Aktu o umetni inteligenci. Kot smo lahko slišali, so prevajalniki postavljeni v kategorijo minimalnega tveganja. Akt sicer zahteva večjo preglednost pri uporabi podatkov in obveznost dokumentiranja, pomembno pa je, da neposredno ne ureja vprašanja avtorskega prava. To pomeni, da se bo o tem, ali je zajem knjig, člankov ali prevodov za učenje umetne inteligence zakonit, odločalo skozi že obstoječe pravne okvire ter sodne primere, ki znotraj EU niso poenoteni, opozarja pravnik, dr. Nikolaus Forgó – strokovnjak s področja informacijskega prava in predavatelj na univerzi na Dunaju. 

Also ich würde gerne sagen, dass es natürlich sehr wichtig ist, über Urheberrechte zu sprechen im KI-Kontext, deswegen, weil sehr viele der jetzt sozusagen revolutionär aussehenden Innovationen, die wir sehen, insbesondere im Bereich der sogenannten Large-Language-Models, aber auch dann, wenn es Video-Rendering geht oder Audio-Rendering geht, also zum Beispiel künstliche Stimmen, die so klingen wie echte Menschen, in all diesen Phänomenen, die wir alle großartig finden und faszinieren, eine Voraussetzung besteht und eine Grundlage. Und diese Grundlage ist, dass da eine Vielzahl von urheberrechtlich relevanten Daten oder Werken, wie man im Urheberrecht sagt, in das System hineingeflossen sind, damit dann aus dem System wieder was rauskommt, was so ähnlich aussieht wie solche Werke. Und das ist urheberrechtlich relevant. Der AI Act oder das KI-Gesetz sagt aber dazu vergleichsweise wenig. Das ist zwar eine neue, eine aktuelle Gesetzgebung, die sich insbesondere mit Risiken rund den KI-Einsatz beschäftigt, aber so gut wie gar nichts zum Urheberrecht. Es gibt auch in Europa, bedauerlicherweise, noch nicht so was wie ein europäisches Urheberrecht, sondern wir haben im Urheberrecht einige wenige europaweite Harmonisierungen, aber sehr viel von dem, was wir im Urheberrecht erleben, ist noch immer nationalstaatlich geregelt, ist also auch innerhalb der EU, in Irland, anders als in Österreich oder in Ungarn, anders als in Spanien.

Heißt also, Urheberrecht ist wichtig, weil es ein Phänomen begleiten könnte, das wir gerade beobachten, nämlich eben diese Disruptionen, die mit KI einhergehen. Und Urheberrecht ist unwichtig, weil es zu diesen Beiträgen zumindest aus europäischer Perspektive vergleichsweise wenig zu sagen hat. Und der KI-Akt sagt dann noch weniger dazu. Wie gesagt, da geht es vor allem Risiken.

Umetna inteligenca je sorazmerno nov fenomen, predvsem v vsakdanjem življenju, zato dosledne pravne podlage, ki bi celovito urejale področje še ne obstajajo. Čeprav si EU prizadeva k urejanju, je področje avtorskega prava iz več razlogov posebej velik izziv, pojasnjuje Nikolaus Forgó.

Sehr viel von dem, was in Large-Language-Models und in anderen generativen künstlichen Intelligenzmodellen passiert, basiert auf urheberrechtlich geschützten Werken. Also wenn man ein Buch geschrieben hat und dieses Buch landet dann irgendwann einmal auf ChatGPT, das jetzt mal ganz extrem zu sagen, dann ist es natürlich so, dass da Urheberrechte eine Rolle spielen, weil wir nämlich im Urheberrecht seit dem 19. Jahrhundert uns irgendwie darauf geeinigt haben, dass Urheberrecht wichtig ist, weil Menschen kreative Werke schaffen können sollen und eine Voraussetzung dafür, dass Menschen kreative Werke schaffen können, eben auch ist, dass sie irgendwas dafür bekommen. Das kann Geld sein, das ist nicht das unwichtigste. Es können aber auch andere Dinge sein, wie zum Beispiel einfach mit dem Werk verbunden zu werden, namentlich genannt zu werden, die Ehre, die damit verbunden ist, zu erhalten und so weiter. Und deswegen versucht man seit dem 19. Jahrhundert eben, ein Gleichgewicht, ein Interessensgleichgewicht herzustellen zwischen dem Urheber der Urheberin, den Verwertern und Verwerterinnen, also zum Beispiel den Verlagen oder den Rundfunkanstalten, und drittens der Allgemeinheit der Öffentlichkeit, die natürlich auch immer ein Interesse hat, irgendwie zu urheberrechtlich geschützten Werken zu gelangen und daraus irgendetwas Neues zu machen, also zum Beispiel ein KI-Modell zu entwickeln.

Und dieses Interessens-Dreieck, seit es die Computer gibt, seit es die Digitalisierung gibt, seit es das Internet gibt und jetzt seit es die KI gibt, ist dieses Interessens-Dreieck irgendwie in seinem Gleichgewicht gestört. Und das gilt natürlich insbesondere auch beim Einsatz von Large-Language-Models und sonstigen Generatoren, die ja so aus großen, großen Datenmengen irgendetwas machen, was neuartig aussieht. Wir vergessen das immer, aber sozusagen der Moment, in dem wir ChatGPT das erste Mal gesehen haben, ist noch keine drei Jahre her für die meisten von uns. Also das sind wahnsinnig schnelle Entwicklungen und das Recht reagiert darauf mitunter sehr langsam. Der KI-Akt oder der das KI-Gesetz, der AI Act, sagt deswegen auch so gut wie gar nichts über das Urüberrecht. Das Wort Urheberrecht kommt darin, ich weiß nicht, so 10, 15 mal vor ungefähr, aber im Wesentlichen eigentlich nur in den Erwägungsgründen, in denen dann drinnen steht, dass Urheberrecht wichtig ist und dass man die urheberrechtlichen Rahmenbedingungen einhalten können soll. Steht also nicht so wahnsinnig viel darüber hinaus drin, außer „Bitte halte dich an das geltende Recht. Es wird also insbesondere nicht irgendeine neue Aufteilung dieses Interessensdreiecks dort vorgeschlagen. Und deswegen wissen wir mit den urheberrechtlichen Themen, die da jetzt auftreten, also zum Beispiel, unter welchen Voraussetzungen darf ein fremder Text in ein Large-Language-Model Eingang finden und so weiter.

Deswegen müssen wir also alle diese Fragen letztlich mit rechtlichen Instrumenten beantworten, die nur sehr eingeschränkt in Europa gleich aussehen und die schon überhaupt gar nicht jetzt in irgendeiner Weise auf KI reagieren können, weil sie eben aus Zeiten stammen, wo es die KI noch gar nicht gab. Zum Teil stammen sie aus Zeiten, in denen es das Internet noch gar nicht gab. Und zum Teil kommen sie aus Zeiten, in denen es Computer noch nicht gab, weil sie irgendwie aus dem 19. Jahrhundert kommen, konzeptionell. Und vor dieser Herausforderung, diesem spannenden Problem, da jetzt also eigentlich nicht passendes Recht auf neue Phänomene anwenden zu müssen, stehen wir jetzt alle.

Podobno na lastni koži izkušajo avtorji, prevajalci in drugi ustvarjalci, ki kritično spremljajo razvoj umetne inteligence in njenih regulativ. Tanja Petrič je literarna kritičarka, prevajalka, urednica in predsednica Društva slovenskih književnih prevajalcev.

Društvo slovenskih književnih prevajalcev združuje prevajalke in prevajalce leposlovja, humanistike in družboslovja, kar pomeni, da na društvu rokujemo največkrat z besedili, ki so avtorsko zaščitena. Prav zato poskušamo slediti dogajanju na področju regulacije in pravil ravnanja v zvezi z UI in predvsem z vprašanji, povezanimi s spoštovanjem avtorskih pravic. Je pa to za nas kot jezikoslovce ali strokovnjake s področja literature izjemno kompleksna materija, povezana z avtorskim pravom in pravnimi znanji, ki jih samo nimamo.

Zaslombo za vsa pravna in strokovna vprašanja pogosto na društvu najdemo predvsem v našem krovnem združenj, Evropskem svetu združenj književnih prevajalcev CEATL, ki sledi zakonodajnim, spremembam, evropskim direktivam, pravnim primerom po svetu, proučuje delovne pogoje književnih prevajalk in prevajalcev po Evropi, se ukvarja z zagovorništvom književnoprevajalskega poklica na evropski ravni in se vključuje v posvetovalne in delovne skupine in mreže na področju kulturnih in ustvarjalnih sektorjev. Sodelujejo tudi pri procesu priprave dokumentov, kot je bil nazadnje julija sprejet in objavljen Kodeks ravnanja v zvezi z izvajanjem določil iz Akta EU o umetni inteligenci. Nad končno različico Kodeksa so predstavniki ustvarjalcev in imetnikov avtorskih pravic precej razočarani, saj menijo, da ne gre za uravnotežen kompromis, ampak za izgubljeno priložnost, da bi smiselno zaščitili pravice intelektualne lastnine na področju generativne UI, kot jo določa Akt o UI. Ustvarjalci se namreč borimo za transparentno, odgovorno, pravično in regulirano rabo avtorsko zaščitenega gradiva v digitalnem okolju, občutek pa imamo, da je Kodeks ravnanja v korist predvsem ponudnikom modelov generativne UI, ki stalno kršijo avtorske in sorodne pravice za izpopolnjevanje teh svojih modelov. Škoda in nelojalna konkurenca, ki nastaja v kulturnem in ustvarjalnem sektorju, je dan za dnem vidna in praktično nepopravljiva. Po navadi argument, ki ga zastopajo nenazadnje tudi predstavniki EU, je ta, da če zaviramo tehnološki razvoj, zaviramo inovacije. Ampak če se spomnimo zgodovine, avtorska pravica in tudi intelektualna lastnina sta bili pravzaprav ustvarjeni ravno zato, da zaščitita inovacije in jih spodbujata, ne da jih zavirata, zato so ti argumenti za lase privlečeni.

Ko pride pri nas do vprašanja javnega dobrega, se mi zdi, da se vedno zlahka, tako rekoč »za narodov blagor«, žrtvuje najprej slovenske umetnike, ki bi se na primer v našem primeru morali odpovedati svoji lastnini, kar pač avtorska pravica je. Javna zavest o tem, da gre za lastnino, je pri nas še vedno zelo nizka.  Splošna javnost, pa konec koncev tudi ustvarjalci sami, ko pride na primer do podpisovanja pogodb, niso dovolj obveščeni in ozaveščeni o tem, kaj pomenijo avtorske pravice.

Prav to pravno vprašanje zagotavljanja spoštovanja avtorskih pravic in na drugi strani tolmačenja avtorskih pravic v okolju UI ostaja široko odprto, na primeru pojasnjuje univerzitetni profesor informacijskega prava in prava intelektualne lastnine Nikolaus Forgo.

Wir sind ja alle die ganze Zeit Urheberinnen und Urheber. Auch wir beide, die wir gerade dieses Gespräch führen, sind Urheberinnen und Urheber. Und unter welchen Voraussetzungen wir jetzt irgendwie beteiligt werden sollen, wenn dieses Gespräch dazu verwendet wird, zum Beispiel ein Sprachmodell zu trainieren oder zum Beispiel ein Übersetzungstool zu trainieren oder zum Beispiel daraus einen Film zu machen und so weiter und so weiter. Wie sehr wir beide daran jetzt irgendwo noch beteiligt werden können oder müssen oder sollen und ob wir dafür Geld bekommen sollen, ob man uns Erlaubnis fragen muss und so weiter und so weiter. Das sind sehr praktische Fragen, die werden ziemlich unmittelbar Auswirkungen haben auf Ihren Beruf und auf meinen Beruf, die Beantwortung dieser Fragen. Aber das geltende Recht antwortet darauf eben, wie ich schon gesagt habe, auf der einen Seite sehr national. Also das kann in Österreich anders sein als in Slowenien und schon gar in den USA oder in der Türkei oder in China. Und es antwortet zum anderen eben auch noch sehr Einzelfall bezogen. Es kann also durchaus sein, dass Ihnen auch sehr qualifizierte Juristinnen und Juristen auf eine sehr einfache Frage, wie zum Beispiel kann ich verhindern, dass jetzt ChatGPT, eines meiner Werke, verwendet, auf diese sehr einfache Frage sehr komplexe Antworten geben müssen, weil eben ganz viele der da auftretenden Fragen so neu sind, dass sie noch nicht entschieden sind und weil ganz viele der jetzt auftretenden Fragen zur Beantwortung eine Kenntnis über das, was da technisch und real überhaupt passiert ist, voraussetzen, die wir alle gar nicht haben, weil wir eben auch sehr wenig darüber wissen, wie solche Modelle eigentlich in Wirklichkeit funktionieren, wie sie wirklich trainiert wurden und was da wirklich Einfluss genommen hat.

Kaum ein Unternehmen ist diesbezüglich so verschlossen wie ein KJ-Unternehmen. Es ist deswegen gerade so eine Ironie, dass das dann ausgerechnet Open AI oder ähnlich heißt, so als ob da irgendetwas open wäre. Im Gegenteil, wir wissen da ganz wenig und tapsen hier sehr stark im Dunkeln. Und das ist, denke ich, auch eine ganz große Herausforderung.

Posledice poseganja v avtorske pravice in razširjanja rabe umetne inteligence pa že zaznavajo v Društvu slovenskih književnih prevajalcev. Predsednica društva, Tanja Petrič.

To na društvu že konkretno čutimo pri upadu zanimanja za književno prevajanje pri mladih, jezikovni in prevajalski oddelki to čutijo pri upadu vpisa študentov, skratka, situacija se že kaže tudi »na trgu«, ob čemer negativna promocija skozi poveličevanje orodij umetne inteligence k taki podobi jezikovnih poklicev še dodatno pripomore.

Umetna inteligenca in njena raba v vsakdanjem življenju nas torej vse postavlja pred nova, tako filozofska, kot pravna vprašanja. Predvsem pa nam predoča dejstvo, da je pravo reakcija na družbene spremembe in očitno pomanjkljive pravne ureditve, in tako pogosto korak ali dva za najbolj perečimi vprašanji.

Also persönlich gehe ich damit mit großer Freude, weil es mir eben ganz, ganz viele neue juristische Fragen stellt und ich das mag, weil man als Jurist natürlich davon abhängt, dass man Fragen gestellt bekommt, die interessant sind. Und in meinem Feld, also im Recht der Digitalisierung, sind seit 40 Jahren oder 50 Jahren die Fragen außerordentlich spannend und sie werden eigentlich immer interessanter. Also beruflich gesehen ist das eine großartige Zeit. Als Nutzer würde ich sagen, man muss diese Phänomene ernst nehmen. Man muss auch einen Spruch in Erinnerung behalten, den man im Internet lesen kann, nämlich, dass Menschen dazu tendieren, Veränderungen, die mit Technologien einhergehen, kurzfristig gesehen zu über- und langfristig gesehen zu unterschätzen. Also es gibt zwar gerade einen riesigen Hype rund KI und sehr viele sagen jetzt schon, das sei übertrieben. Das stimmt vielleicht kurzfristig gesehen, langfristig gesehen, glaube ich schon, dass sich da jetzt ganz, ganz, ganz erheblich es verändert, und zwar ganz erheblich verändert. Vor allem eben verändert sich die Regel, wie wir Wissen generieren, wie wir es verfügbarhalten und wie wir es konsumieren. Und das ist eine sehr wichtige Veränderung. Aber es ist eine Veränderung, die Menschen natürlich auch gestalten können. Man sollte darauf Einfluss zu nehmen, das zu nehmen versuchen. Das gilt für das Politische, das gilt für das Technische und das gilt letztlich auch für das Rechtliche. Im Recht allein eine Antwort zur Lösung auf all diese Probleme Unternehmen zu suchen, ist allerdings zu einfach. Das ist, glaube ich, die wichtigste Botschaft eines Juristen an alle, die da draußen sind. Wir sind auch genauso wie alle anderen ziemlich erstaunt über das, was da passiert. Und Juristinnen und Juristen können nur vorhandenes Recht auslegen und solange es kein vorhandenes Recht gibt, weil das alles so neu ist, endet dann auch irgendwie die Weisheit der Juristinnen und Juristen sehr schnell. Also wir können auch nicht viel mehr tun, als nur erklären, was bisher wie geregelt wurde und dann zu sagen: „Na ja, so ganz passt das jetzt nicht auf das, was wir gerade sehen.

Der EU-Akt über künstliche Intelligenz ist ein klares Signal, dass Europa Standards setzen will – und zwar nicht nur technische, sondern auch ethische. Die Einführung einer Risikoklassifizierung bedeutet, dass künstliche Intelligenz, wenn sie in die Bereiche Menschenrechte, Beschäftigung oder Bildung eingreift, einer strengen Kontrolle und Dokumentation unterliegt. Transparenz wird zur Notwendigkeit und nicht mehr nur zu einer Option. Dies ist ein wichtiger Schritt, da er den Mythos der künstlichen Intelligenz als „Black Box”, in die niemand hineinsehen kann, widerlegt.

A kljub temu ostajajo odprta vprašanja. Akt o umetni inteligenci ne določa jasno, ali so vsebine, s katerimi se algoritmi učijo, uporabljene zakonito. Zato bodo o tem odločali nacionalni zakoni, sodišča in dogovori med tehnološkimi podjetji ter založniki. V tem smislu je Akt šele začetek in nikakor dokument, ki bi urejal vprašanje avtorskih pravic na področju UI, kot izpostavlja prof. dr. Nikolaus Forgó.

Umetna inteligenca ima potencial, da evropskemu gospodarstvu prinese stotine milijard evrov in družbi olajša vsakdan. Toda če ob tem pozabimo na ustvarjalce, ki so vir teh znanj in vsebin, lahko izgubimo prav tisto, kar želimo zaščititi – človeško ustvarjalnost.

Biografie:

Dr. Nikolaus Forgó – je univerzitetni profesor za informacijsko tehnologijo in pravo intelektualne lastnine in vodja oddelka za inovacije in digitalizacijo v pravu na Univerzi na Dunaju.

Tanja Petrič - je večkrat nagrajena samostojna literarna kritičarka, prevajalka iz nemščine, urednica in vodja mednarodnih projektov s področja prevajanja in književnosti. Je članica Društva slovenskih literarnih kritikov in Društva slovenskih književnih prevajalcev, slednjemu od leta 2020 tudi predseduje; vključena je tudi v Slovenski center PEN. Od leta 2024 je članica slovenskega Nacionalnega sveta za kulturo.