Els accidents passen, i els éssers humans busquem culpables quan succeeixen, siga per un sentiment de fer justícia – el qual a vegades equival a venjança -, o per saber què va fallar i a qui reclamar la culpabilitat.
Fins ara, en un accident de trànsit, el problema de qui tenia la culpa estava bastant delimitat: en cas d’un error mecànic, podia ser el fabricant del vehicle que l’havia provocat, o si era un error humà, un o diversos dels conductors implicats.
Però, si parlem dels vehicles autònoms, entren en joc diversos factors més, com el programari, la intel·ligència artificial. Cal culpar al desenvolupador?
Aquesta pregunta ha estat resposta per Mark Geistfeld, expert en dret civil de la Universitat de Nova York (NYU), a través d’un article signat per Emily Rosenthal en el lloc web de la mateixa institució universitària.
Geistfeld basa la seua argumentació en un cas real que va saltar a les portades dels mitjans l’any 2019, quan un Tesla Model S es va saltar un semàfor en roig i va anar a col·lidir contra un altre vehicle, matant als dos ocupants que anaven en el cotxe envestit. El mal funcionament del Tesla va ser a causa d’un error de programari, un error fatal que va costar dues vides.
A principis d’aquest any 2022, la fiscalia de Los Angeles va presentar dos càrrecs d’homicidi involuntari contra el conductor del Tesla que va provocar l’accident, convertint així aquest cas en el primer que anirà a judici que involucra un sistema d’assistència al conductor. Aquest sistema no rep la consideració d’autònom per part de Tesla, sinó que ho categoritza com un pilot automàtic similar al que tenen els avions, i que no substitueix en cap cas al pilot, però l’ajuda en tasques rutinàries.
Ara, un tribunal haurà de decidir si el propietari i conductor del Tesla va cometre un error o va confiar en excés del sistema de pilot automàtic, o bé l’empresa fabricadora del programari – en aquest cas, la mateixa Tesla – té alguna responsabilitat en l’accident. La decisió del jurat podria generar jurisprudència.
Segons l’anàlisi de Geistfeld, la fiscalia basa la seua tesi en el fet que el conductor del Tesla hauria d’haver assumit el control del vehicle abans que l’accident es produís, desactivant el pilot automàtic. Si la fiscalia guanya el cas amb aquest argument, el pronòstic de l’expert de la NYU és que això portarà al fet que s’incremente el nombre de demandes interposades en accidents de trànsit en els quals estiguen involucrats sistemes d’assistència a la conducció (ADAS).
Sobre la responsabilitat de la companyia fabricadora del vehicle que incorpora sistemes d’automatització, el Geistfeld indica que aquesta no hauria de simplement limitar-se a introduir avisos perquè el conductor es mantinga alerta en tot moment, sinó que ha d’incloure sistemes que obliguen aquest a estar alerta.
Així, una manera d’evitar que un cas similar puga acabar esquitxant-los, és precisament que les mesures que introduesquen forcen, i avisen activament al conductor, fins i tot monitorant la seua conducta, perquè se centre en la via i en l’evolució del vehicle, ja que la responsabilitat legal recaurà sobre el conductor.
Però la gran pregunta, sobre la responsabilitat de la companyia fabricadora del cotxe o el programari de conducció en el cas d’un vehicle totalment autònom, la deixa per al final, i carrega part de la responsabilitat en l’administració pública, que a parer de Geistfeld, hauria de marcar un estàndard de seguretat que tots els fabricants haurien de passar, encara que no dona resposta a com i en quin punt han de fixar-se aquests estàndards.
En resum, que encara ens queda per dirimir sobre el tema. Esperem que amb els mínims casos reals sobre la taula, a poder ser, cap.