Titolare di assegno di ricerca
Istituto di Diritto, Politica e Sviluppo
Irina Carnat
Bio
In collaborazione con il Dottorato Nazionale in Intelligenza Artificiale per la Società presso l'Università di Pisa, Irina è membro del LIDER-Lab presso la Scuola Superiore Sant'Anna dal 2022, svolgendo attività di ricerca sui profili di responsabilità per lo sviluppo di sistemi di Intelligenza Artificiale (IA). I suoi interessi di ricerca includono la governance dell'IA da una prospettiva comparativa, la responsabilità da prodotto difettoso applicata all'IA, il principio di accountability per le decisioni automatizzate, e l'impatto dell'IA Generativa sui diritti fondamentali.
Collabora nel progetto Giustizia Predittiva, supervisionando il processo di annotazione dei dataset legali e sviluppando soluzioni basate sui Large Language Models per il settore legale. Ha svolto un tirocinio curricolare in SmartLex, impresa spinoff della Scuola Superiore Sant'Anna, per la progettazione, lo sviluppo e la validazione di uno strumento di anonimizzazione attraverso tecnologie NER, acquisendo esperienza nella procedura di compliance per i sistemi di IA dalla progettazione del prodotto all'immissione sul mercato. Durante gli studi universitari e dottorali, è stata ricercatrice in visita presso l'Institute for Information Law (IViR) e presso l'Amsterdam Center for Transformative Private Law (ACT) dell'Università di Amsterdam, nonché presso l'Università di Liegi per il programma Erasmus.
Irina è poliglotta e abilitata all'esercizio della professione forense in Italia.
Pubblicazioni
Carnat I., Comandé G., Licari D., De Nigris C., 'From human-in-the-loop to LLM-in-the-loop for high-quality legal dataset', 2024, in i-lex - Rivista di Scienze Giuridiche, Scienze Cognitive e Intelligenza Artificiale, Vol. 17, n. 1.
Carnat I., 'Intelligenza Artificiale e Responsabilità Civile', in Responsabilità Civile, diretto da Claudio Scognamiglio, Encliclopedia del Diritto (i tematici), novembre 2024.
Carnat I., 'Addressing the Risks of Generative AI for the Judiciary: the Accountability Framework(s) under the EU AI Act', 2024, in Computer Law & Security Review, vol. 55, novembre 2024.
Carnat I., 'Human, all too human: accounting for automation bias in generative Large Language Models', presentato alla ACM Conference on Fairness, Accountability, and Transparency (ACM FAccT 2024), in Rio de Janeiro, Brasile, 3-6 giugno 2024, pubblicato in International Data Privacy Law.
Carnat I. 'L'autonomia del danno morale: una cura con il contagocce' (2024), nota a sentenza Cass. civ. sez. III, 28 novembre 2022, n. 34927, in Danno e Responsabilità 1/2024.
Carnat I., 'Ethics Lost in Translation: Trustworthy AI from Governance to Regulation' (2023) in Opinio Juris in Comparatione 4/2023.
Carnat I., 'Il compromesso di ChatGPT per il contenzioso civile: dall'affidabilità alla responsabilità' (2023) in Rivista Italiana di Medicina Legale 2/2023.
Carnat I, ‘The Notion of Defectiveness Applied to Autonomous Vehicles: The Need for New Liability Bases for Artificial Intelligence’ (2020) in Trento Student Law Review Vol.2 No.2.
Corsi
Relatrice a Lawtomation Days 2024, IE Law School, Madrid, Spagna, presentando l'articolo "Addressing the Risks of Generative AI for the Judiciary: the Accountability Framework(s) under the EU AI Act".
Relatrice a "Le regole dell’Intelligenza Artificiale" con "Umana, troppo umana: l'intelligenza artificiale generativa nei processi decisionali" (Università di Pisa, Facoltà di Giurisprudenza, 15 aprile 2024)
Relatrice a "Intelligenza Artificiale: opportunità o minaccia per l'avvocato" (Camera Civile di Arezzo, 9 febbraio 2024)
Discussant a "Digital Justice and Constitution" (European University Institute, Firenze, 19 gennaio 2024)
Relatrice a "Responsabilità da Intelligenza Artificiale: profili etici e giuridici" (Milano Digital Week, 9 ottobre 2023)
Relatrice con "Come l'IA cambia le professioni legali" (Milano Privacy Week, 28 settembre 2023)
Formatrice a “Strategia europea dei dati e le ricadute du PP.AA. e aziende” con “La sfida dei dati aperti e il ri-uso dei dati: il caso della giustizia predittiva” (AILUN, Nuoro, 21 giugno 2023)
Relatrice a IAIL 2023 "Imagining the AI Landscape after the AI Act" presentando l'articolo "Holding the AI Act Accountable" (Monaco, Germania, 27 giugno 2023)
Relatrice a “ADELE final conference” presentando il progetto Predictive Justice (European University Institute, Firenze, 9 giugno 2023)
Relatrice a "Giustizia e algoritmi" (Ordine degli Avvocati di Massa Carrara, 17 marzo 2023)
Relatrice e co-organizzatrice di “Battle of Brains”: Debate Workshop (Università di Pisa, 6-7 dicembre 2022)
Relatrice a “L'algoritmo incontra la Giustizia: nuove sfide per l'Avvocatura” (Ordine degli Avvocati di Prato, 4 dicembre 2022)
Relatrice con “No al giudice robot, sì alla tecnologia al servizio dei diritti” (Milano Privacy Week, 28 settembre 2022)
Relatrice a “Intelligenza Artificiale, Diritto e Sci-Fi” (Fondazione Scuola Forense Alto Tirreno, 24 giugno 2022)