Sfide etiche e legali dell'assistenza sanitaria basata sull'intelligenza artificiale: la responsabilità del medico e dell’amministrazione sanitaria

Abstract

Medical liability is an important branch of law in which, in the first place, the expectations of patients' recovery are compared with the doctor's duty to provide them with adequate and possibly decisive care. Unfortunately, medicine is not an exact science, so it happens that the patient may not always be fully satisfied with the care he has received: it is precisely in this case that the law comes into play, with the first objective of preventing dangerous situations and the second objective of guaranteeing compensation for the damage caused by that doctor who has not acted diligently, prudence, competence, and by the health company that has disregarded the contractual obligations concluded with the patient. One of the main issues that animate the debate around medical liability, object of the thesis study, is that relating to the use of Artificial Intelligence tools in medicine, these are engineering, biomedical, mechanical or IT third party elements, which support the daily work of the doctor. In our legal system, the identification of the person responsible becomes even more complex if we think of the legislative changes that have occurred in health matters, in fact there has been a transition from contractual liability for the doctor to liability, brought back by doctrine and jurisprudence, in the channel of non-contractual liability. In the health system, the use of artificial intelligence is based on virtuous results. This type of technology is able to give a percentage of risk to develop, based on certain results, certain diseases, using some characteristics of patients already hospitalized. It should be remembered that medical activity is based on the interpretation of the man's narrative, physical examination and clinical, therapeutic and diagnostic evaluations of his body. The anamnesis is the true fulcrum of the health service as it is aimed at collecting personal information to investigate the patient's malaise. The problem arises from the fact that medical science is not only based on scientific evidence but also on the specificity of the case and on the patient's narrative. Human-machine interaction in actions/omissions poses liability problems in case of damage to third parties. Responsibility, in fact, in these cases is not easy to solve. The problem is given by the fact that this new technological approach brings with it new realities that can hardly find a normative reference, even analogically, in the civil code. The starting point of this thesis study is given by the dichotomy that has been created between artificial intelligence and human intelligence. At the end of the research carried out, it will be understood that this is a false contrast. Anyone who thinks that an algorithm can override the advice of a doctor is mistaken. Technology is also fallible, and its supervision will necessarily be entrusted to man. In order to help in the health sector, an AI algorithm must guarantee performance equal to or superior to that of a human being in the specific tasks assigned to it. But many of the decisions that doctors make on a daily basis are incredibly complex and require a much more complex approach than that offered by the use of artificial intelligence in data processing. We could refer to "the autonomy of artificial intelligence" trying to identify the quantum of "contribution" of the human being: to understand when it is minimal and therefore artificial intelligence is completely autonomous even in its updates or when human intervention is essential. In the context of hospitals, however, artificial intelligence almost always needs the human contribution because it is through that contribution that the final result is reached. Here then the need will arise, in order not to charge non-existent responsibilities, to analyze the responsibility, if necessary separating the various profiles. To realize the enormous potential of AI to transform healthcare for the better, AI stakeholders, including AI leaders, physicians, patients, ethicists, and legislators, need to engage in the ethical and legal debate about how AI is successfully implemented in practice. The reconstruction of the responsibility that this thesis study is committed to achieving will proceed through jurisprudential and doctrinal orientations and the reconstruction of the strategies concerning the ethics and law of AI in health in the European Community. Although we talk about artificial intelligence systems in an all-encompassing way, they are also systems or products that have significant differences. Just think of the fact that the surgical robot is used by a subject who has a specific competence and professional training, while the driverless car could in the abstract also be driven by a person with reduced sensory abilities , to realize the differences existing in the field of artificial intelligence. In this sense, we must ask ourselves to what extent a regulatory solution that embraces all types of artificial intelligence, without making specific differentiations due to their specific characteristics and the sector where they impact, represent the preferable solution. There is currently no fully harmonised EU regulatory framework for liability in AI and robotics such as care and medical robots. However, Europe has taken several steps to address the issue of ethics and responsibility. It is difficult to establish whether the proposals made within the European Union are able to adequately respond to the multiplicity of problems caused by advanced robotics. They certainly have the merit of providing for the adoption of new legal rules for artificial intelligence. This is an essential path in order to provide certainty both to operators in the sector and to users of smart products and advanced artificial intelligence systems, with the introduction of an objective liability regime for those subjects who seem better able to contain risks and avoid or decrease their negative consequences. .. [edited by Author]

La responsabilità medica rappresenta un ramo importante del diritto nel quale, in primo luogo, si confrontano le aspettative di guarigione dei pazienti e il dovere del medico di fornire loro un'assistenza adeguata e possibilmente risolutiva. Purtroppo la medicina non è una scienza esatta, accade quindi che il paziente possa non essere sempre pienamente soddisfatto della cura che ha ricevuto: è proprio in questo caso che entra in gioco la legge , con il primo obiettivo di prevenire le situazioni di pericolo e il secondo obiettivo di garantire il risarcimento del danno cagionato da quel medico che non ha agito con diligenza, prudenza, competenza, e dall'azienda sanitaria che ha disatteso gli obblighi contrattuali conclusi con il paziente. Una delle principali questioni che animano il dibattito attorno alla responsabilità medica, oggetto dello studio di tesi, è quella relativa all'uso degli strumenti di Intelligenza Artificiale in medicina, si tratta di elementi terzi ingegneristici, biomedici , di natura meccanica o informatica, che supportano il lavoro quotidiano del medico. Nel nostro ordinamento l’individuazione del responsabile diventa ancora più complessa se si pensa alle modifiche legislative che sono intervenute nella materia sanitaria, infatti si è assistito ad un passaggio dalla responsabilità contrattuale per il medico alla responsabilità, ricondotta da dottrina e giurisprudenza, nell’alveo della responsabilità extracontrattuale. Nel sistema sanitario il ricorso alle intelligenze artificiali è improntato al virtuoso risultato. Questo tipo di tecnologia è in grado di dare una percentuale di rischio a sviluppare, in base a determinati risultati, determinate malattie, facendo ricorso ad alcune caratteristiche dei pazienti già ricoverati. E’ opportuno ricordare che l’attività medica si basa sull’interpretazione della narrazione dell’uomo, dell’esame obiettivo e delle valutazioni cliniche, terapeutiche e diagnostiche del suo corpo. L’anamnesi costituisce il vero fulcro della prestazione sanitaria in quanto finalizzata alla raccolta di informazioni personali atta ad indagare il malessere del paziente. Il problema nasce dal fatto che la scienza medica non è basata solo sull’evidenza scientifica ma anche sulla specificità del caso e sulla narrazione del paziente. L’interazione uomo-macchina nelle azioni/omissioni pone problemi di responsabilità in caso di danni a terzi. La responsabilità, infatti, in questi casi non è di facile soluzione. Il problema è dato dal fatto che questo nuovo approccio tecnologico porta con sé realtà nuove che difficilmente riescono a trovare un riferimento normativo, anche in via analogica, nel codice civile. Il punto di partenza di questo studio di tesi è dato dalla dicotomia che si è creata tra intelligenza artificiale e intelligenza umana. All’esito delle ricerche fatte si capirà che si tratta di una falsa contrapposizione. Chi pensa che un algoritmo possa scavalcare il parere di un medico, è in errore. Anche la tecnologia è fallibile e la sua supervisione sarà necessariamente affidata all'uomo. Per poter essere di aiuto in ambito sanitario un algoritmo di AI deve garantire prestazioni pari o superiori a quelle di un essere umano nei compiti specifici che gli vengono assegnati. Ma molte delle decisioni che i medici prendono quotidianamente, sono incredibilmente complesse e richiedono un approccio ben più articolato rispetto a quello offerto dall’utilizzo dell’intelligenza artificiale nell’elaborazione dei dati. Si potrebbe far riferimento “all’ autonomia dell’intelligenza artificiale” cercando di individuare il quantum di “apporto” dell’essere umano: capire quando è minimo e quindi l’intelligenza artificiale è del tutto autonoma anche nei suoi aggiornamenti oppure quando l’intervento dell’uomo è imprescindibile. Nell’ambito degli enti ospedalieri, però, l’intelligenza artificiale, ha quasi sempre necessità del contributo umano perché è attraverso quel contributo che si arriva al risultato definitivo. Ecco che allora sorgerà il bisogno, al fine di non addebitare responsabilità inesistenti, di analizzare la responsabilità, se del caso scindendone i vari profili. Per realizzare l'enorme potenziale dell'IA per trasformare l'assistenza sanitaria in meglio, gli stakeholder nel campo dell'IA, compresi i responsabili dell'IA, i medici, i pazienti, gli etici e i legislatori, devono essere impegnati nel dibattito etico e legale su come l'IA viene implementata con successo nella pratica. La ricostruzione della responsabilità che questo studio di tesi si impegna a realizzare procederà tramite orientamenti giurisprudenziali e dottrinali e la ricostruzione delle strategie riguardanti l'etica e il diritto dell'IA nella sanità nella Comunità Europea. Per quanto si parli in maniera omnicomprensiva di sistemi di intelligenza artificiale, si tratta poi nel concreto di sistemi o prodotti che presentano notevoli differenze. Basti pensare al fatto che il robot chirurgico viene utilizzato da un soggetto che ha una specifica competenza e formazione professionale, mentre l’automobile driverless potrebbe in astratto essere guidata anche da una persona con ridotte capacita` sensoriali, per rendersi conto delle differenze sussistenti nel campo delle intelligenze artificiali. In questo senso, occorre chiedersi fino a che punto una soluzione normativa che abbracci tutte le tipologie di intelligenza artificiale, senza operare specifiche differenziazioni in ragione delle loro precipue caratteristiche e del settore ove impattano, rappresenti la soluzione preferibile. Attualmente non esiste un quadro normativo dell'UE completamente armonizzato per la responsabilità in materia di IA e robotica come cura e robot medici. Tuttavia, l'Europa ha compiuto diversi passi per affrontare la questione dell’ etica e della responsabilità. E` complesso stabilire se le proposte formulate in seno all’Unione Europea siano in grado di rispondere adeguatamente alla molteplicita` dei problemi determinati dalla robotica avanzata. Esse hanno sicuramente il merito di prevedere l’adozione di regole giuridiche nuove per le intelligenze artificiali. Si tratta di un percorso essenziale al fine di fornire certezza tanto agli operatori del settore quanto agli utilizzatori di smart products e sistemi avanzati di intelligenza artificiale, con l’introduzione di un regime di responsabilita` oggettiva in capo a quei soggetti che sembrano meglio in grado di contenere i rischi ed evitarne o diminuirne le conseguenze negative. .. [a cura dell'Autore]