Proteverb – Pravni, etični in tehnološki vidiki obdelave besedilnih in govornih virov podatkov za znanstvene, raziskovalne in razvojne namene

O PROJEKTU

Slovenščina je z vidika razvoja jezikovnih tehnologij jezik, za katerega je na voljo malo digitalnih virov. Zaradi tega sta sodobno raziskovanje s perspektive računalniške znanosti in razvoj produktov, ki temeljijo okrog procesiranja naravnega jezika, bistveno počasnejša kot to velja za jezike z veliko digitalnimi viri. Za ustrezno pridobivanje jezikovnih virov in sekundarno uporabo slednjih v čimbolj naravni obliki, ki zaradi tega lahko vsebujejo tudi nekatere osebne podatke, pa je pomembno interpretiranje Splošne uredbe o varstvu podatkov (GDPR) in izjem prav za raziskovalne namene. Prav tovrstna odstopanja omogočajo doseganje posebnih namenov, na katere se veže tudi pričujoči ciljni raziskovalni projekt, ki bo prvikrat v slovenskem prostoru sistematično naslovil pridobivanje in obdelavo (osebnih) podatkov na način, ki so v interesu znanosti in tako prek apliciranja v obliki pilotnega projekta prispeval k razvoju slednje, kot tudi gospodarstva na podlagi novih spoznanj in praks.

Raziskovalni projekt bo združil, prepletel in poglobil znanje več različnih znanstvenih ved tako z družboslovnega kot tudi naravoslovnega in tehničnega področja ter humanistike. Tovrstno součinkovanje je ključno za zagotovitev, da se napredek v tehnološkem razvoju osmisli ter regulira tako, da se maksimira družbena korist in da se hkrati minimizirajo negativni učinki v obliki posegov v etične in pravne standarde ter človekove pravice. Tak vsestranski pristop je edini način, da koncept odprte znanosti zaživi kar v največji meri.

Projekt bo primarno pomembno prispeval k razvoju treh vej znanosti, in sicer prava, informatike in računalništva ter humanistike.

Pri vseh treh področjih znanosti bo omogočen takojšnji prenos ugotovitev in znanj v pedagoški proces na domačih in tujih univerzah, tako preko sodelovanja študentov pri razvijanju zgoraj omenjenih tehnologij kot pri poučevanju, ki ga izvajajo raziskovalci, udeleženi pri tem projektu, ki so hkrati profesorji na različnih fakultetah.

Akademski rezultati tega projekta bodo premostili ključne ovire za napredek znanosti, ki stremi k optimizaciji uporabe podatkov za raziskovalne namene brez kršitev pravnih standardov ter človekovih pravic.

Tip projekta: Ciljni raziskovalni program (CRP)

Šifra projekta (SICRIS): V5-2265

Trajanje projekta: 1. 10. 2022 – 31. 3. 2025

DELOVNI SKLOPI

Raziskovalni projekt je razdeljen v več faz:

Preučitev pravnega okvira obdelave podatkov v raziskovalni-znanstvene namene. Izhodišče bosta predstavljala Splošna uredba in ZVOP-1, ki ju bomo nadgradili s primerjalnopravno analizo in spremljanjem razvoja zakonodajnega predloga ZVOP-2.
Preučitev dosedanje prakse zbiranja podatkov v znanstveno-raziskovalne namene, s poudarkom na dostopanju do podatkov raziskovalcev in raziskovalnih organizacij ter izkušnjah z deljenjem podatkov javnih organov in institucij (npr. sodišč). Identifikacija ključnih dejavnikov tveganj, ki so onemogočali dostop do podatkov v preteklosti, za oblikovanje protokola za varovanje zasebnosti tekom obdelovanja podatkov.
Razvijanje postopkov za ustrezno dostopanje do podatkov in anonimizacijo podatkov, ki bo temeljila na prilagoditvi in izboljšanju obstoječih anonimizatorjev. Oblikovanje priporočil glede metod biometrične anonimizacije zvočnih govornih posnetkov, ki temeljijo na metodah strojnega učenja, z namenom zmanjšanja vplivov na zanesljivost samodejnih razpoznavalnikov govora.

Pilotni del raziskave bo obsegal pripravo potrebnih podlag za prevzem podatkov, prevzem podatkov, anonimizacijo podatkov ter ureditev dokumentacije, postopkov in pravil za potrebe obdelave podatkov v okviru raziskovalne inštitucije. Na podlagi podatkov, pridobljenih za pilotni del ciljnega raziskovalnega projekta bomo specializirali anonimizator besedil kot tudi razpoznavalnik govora za slovenski jezik.

VODJA PROJEKTA IN KONZORCIJSKI PARTNERJI

Vodja projekta je Inštitut za kriminologijo pri Pravni fakulteti v Ljubljani.

Partnerji konzorcija:

FINANCIRANJE

Ciljni raziskovalni projekt (CRP) financirata Javna agencija za znanstvenoraziskovalno in inovacijsko dejavnost RS (ARIS) in Ministrstvo za digitalno preobrazbo (MDP).

REZULTATI IN DOSEŽKI PROJEKTA

Izvirni znanstveni članek

Završnik, A., Ramuš Cvetkovič, I., Lazarevič Padar, K., & Stariha, A. (2024). Regulating data access for criminological research purposes. Revija za kriminalistiko in kriminologijo, 75(1), 72–89. COBISS.SI-ID 192594691.
Završnik, A. (2023). Criminal justice, artificial intelligence systems, and human rights. Ûridičeskie nauki i obrazovanie, 70, 150–164. COBISS.SI-ID 159764739.
Bajec, M., Lebar Bajec, I., Šoltes, T., Cvek, J., Čibej, J., Gantar, K., Sever, S., & Krek, S. (2023). Online Notes – sistem za prepoznavanje govora in strojno prevajanje v realnem času za slovenska univerzitetna predavanja.Informacijska družba, 7–10.
Završnik, A. (2023). Artificial intelligence in the criminal justice system: Impact on human rights. Pravo i pravda, 21(1), 173–192. COBISS.SI-ID 155372291.

Poljudni članki

Krek, S. (2022, 29. november). Copyrights, the grave of the Slovenian language. Dnevnik, 72(276), 17. COBISS.SI-ID 184173827.

Prispevek na konferenci brez natisa

Završnik, A. (2022, 27. november). Algoritmična nepravičnost. Predavanje na Jesenski šoli “Pravo pred izzivi digitale (r)evolucije”, Ljubljana, Slovenija.
Šarf, P. (2022, 15. november). The thin line between personal and anonymized data in the digital age. Predavanje na Conference on Data Protection Law, Portorož, Slovenija. COBISS.SI-ID 150492163.
Završnik, A. (2023, 16. marec). Crime and data. Predavanje na 4th Conference on Information Security Law, Portorož, Slovenija. COBISS.SI-ID 159392003.
Završnik, A. (2023, 5. maj). Artificial intelligence and criminal justice. Predavanje na International Scientific and Practical Conference Digital Forensics in the Modern World: Problems of Theory and Practice, Taškent, Uzbekistan. COBISS.SI-ID 159767299.
Završnik, A. (2023, 18. maj). Artificial intelligence and criminal justice. Predavanje na International Seminar Digitalization in Law, Privacy Protection, and Automation (DPZPA), Sarajevo, Bosna in Hercegovina. COBISS.SI-ID 159770371.
Završnik, A. (2023, 8. november). Umetna inteligenca in družbena škoda : predavanje, Ustavno sodišče RS, Ljubljana.
Završnik, A. (2024, 25. januar). Uspešnosti novega ZVOP-2 v praksi : okrogla miza, Dogodek Informacijskega pooblaščenca ob Evropskem dnevu varstva osebnih podatkov, Ljubljana, 25. 1. 2024.

Objavljeni povzetek znanstvenega prispevka na konferenci

Završnik, A. (2023). Fair trial implications of automation in criminal justice systems. V 2023 ASC Annual Meeting: Seeking Justice: Reconciling with Our Past, Reimagining the Future (Philadelphia, 15.–18. november 2023). American Society of Criminology. COBISS.SI-ID 183045891.
Završnik, A. (2024). Criminal justice data and GDPR: how to reconcile personal data protection with scientific research purposes. EUROCRIM 2024.

Objavljeni znanstveni prispevki na konferencah

Bajec, M., Lebar Bajec, I., Šoltes, T., Cvek, J., Čibej, J., Gantar, K., Sever, S., & Krek, S. (2023). Online Notes – sistem za prepoznavanje govora in strojno prevajanje v realnem času za slovenska univerzitetna predavanja. V Informacijska družba 2023 (str. 7–10). Institut Jožef Stefan. COBISS.SI-ID 172807683

Šoltes, T., Bajec, M., Lebar Bajec, I., Gantar, K., & Žitnik, S. (2023). Sistem spletnih opomb. V Lecture Notes in Business Information Processing (str. 485–492). Springer. COBISS.SI-ID 157601539

Organizacija strokovnih oziroma znanstvenih dogodkov

Završnik, A., Bajec, M., Geršak, K., Rozman, D., Romšak, A., & Šarf, P. (2023, 16. marec). Iskanje ravnovesja med znanstvenim napredkom in varstvom osebnih podatkov [Posebni panel]. Konferenca Pravo informacijske varnosti, Portorož, Slovenija.

Radiotelevizija Slovenija. (2023). The summer of artificial intelligence [Radijska oddaja, Vroči mikrofon]. Z gosti: S. Splichal, I. Bratko, L. Kronegger, J. Kaluža, S. Krek, P. Šarf in V. Gorjanc. COBISS.SI-ID 154859523.
Radiotelevizija Slovenija. (2023). The datafication of society [Radijska oddaja, Aktualna tema]. Z gosti: S. Splichal, I. Bratko, S. Krek, J. Kaluža in P. Šarf. COBISS.SI-ID 154855171.
Radiotelevizija Slovenija. (2023). Who will benefit and who will suffer from the new artificial intelligence? [Radijska oddaja, Intelekta]. Voditeljica: N. Slaček. Gostje: M. Bogataj Jančič, N. Cvar, F. Dobranić in A. Završnik. COBISS.SI-ID 155695363.
KREK, Simon, Avtorske pravice, slovenskega jezika grob. Delo, 29.11.2022, str. 17.

Predavanje na tujih univerzah

Završnik, A. (2023, 24. januar). AI and the penal system. Predavanje pri predmetu Artificial Intelligence and Intellectual Property, Centre for International Intellectual Property Studies, Université de Strasbourg, Zoom. COBISS.SI-ID 142227715.
Završnik, A. (2023, 12. september). AI and the penal system. Predavanje na Università Cattolica del Sacro Cuore, Milano, Italija (Zoom). COBISS.SI-ID 164318467.
Završnik, A. (2023, 8. december). Artificial intelligence in the judiciary: Opportunities and risks of algorithmic governance. Predavanje na Faculty of Organizational Sciences, University of Belgrade, in Research and Development Institute for Artificial Intelligence of Serbia, Novi Sad, Srbija. COBISS.SI-ID 178939651.

Strokovna predavanja

Završnik, A. (2023, 2. junij). Saznanja o mogućim pravcima primjene umjetne inteligencije u krivično pravosuđe. Predavanje na 21. Savjetovanju iz krivičnopravne oblasti: Izazovi pravosuđa u procesuiranju novih i tradicionalnih oblika kriminaliteta, Neum, Bosna in Hercegovina. COBISS.SI-ID 184535811
Završnik, A. (2023, 8. november). Umetna inteligenca in družbena škoda. Predavanje na Ustavnem sodišču Republike Slovenije, Ljubljana, Slovenija. COBISS.SI-ID 183957251
Završnik, A. (2022, 1. junij). The challenges of artificial intelligence in digital societies: The case of algorithmic criminal justice. Vabljeno predavanje na International Digital Security Forum (IDSF), Dunaj, Avstrija. COBISS.SI-ID 116816387
Završnik, A. (2022). Avtomatizacija kazenskega pravosodja. Digital Age Research Center (D!ARC), Universität Klagenfurt, 24. 11. 2022.