La inteligencia artificial generativa (GenAI) es una de las tecnologías más disruptivas y transformadoras de nuestro tiempo, que ofrece enormes oportunidades y beneficios para la sociedad, la economía, la ciencia, la cultura y el medio ambiente. Sin embargo, la GenAI también plantea importantes desafíos y riesgos para el derecho, que debe regular sus implicaciones y consecuencias en diversos ámbitos y sectores. En este artículo, se abordan a alto nivel tres de los principales desafíos legales de la GenAI: la propiedad intelectual, la privacidad y protección de datos, y los sesgos y la discriminación.
Propiedad intelectual
La propiedad intelectual (PI) entendida como el conjunto de derechos que reconoce y protege las creaciones del intelecto humano, como las obras literarias, científicas o musicales tiene como finalidad incentivar la creatividad, la innovación y el desarrollo, y recompensar a los autores y titulares de los derechos por sus esfuerzos y aportaciones.
El desarrollo tecnológico ha sido capaz de producir una tecnología que tras procesar millones de esas obras es capaz de “crear” contenido original, en ocasiones indistinguible del humano a partir de una mínima instrucción (“prompt”) de una persona. GenAI provoca preguntas, y controversias judiciales, sobre los límites de uso de los materiales protegidos por PI para el entrenamiento de los modelos o como parte de la creación de otros nuevos a través de los propios prompts así como sobre la posibilidad de protección de los resultados de la tecnología. Por ejemplo, la GenAI puede generar textos, imágenes, música, vídeos, etc., a partir de datos o algoritmos, o puede mejorar o adaptar obras existentes a nuevos contextos o necesidades. Asimismo, la GenAI puede inventar o descubrir soluciones técnicas, productos, procesos, etc., que puedan ser patentables o registrables.
Estas situaciones plantean interrogantes sobre la titularidad, el alcance y la remuneración de los derechos de PI. ¿Quién es el autor o el inventor de una obra o una invención generada por GenAI? ¿El humano que diseña, programa o alimenta la GenAI, el que la utiliza o la pone en funcionamiento, el que la posee o la comercializa, o la propia GenAI? ¿Qué criterios se deben aplicar para determinar la originalidad, la novedad, la actividad inventiva, la utilidad, etc., de las creaciones de la GenAI? ¿Qué derechos y obligaciones se derivan de la PI de la GenAI, y cómo se pueden ejercer, licenciar, transferir, ceder, etc.? ¿Cómo se puede garantizar una remuneración justa y equitativa a los autores, inventores, titulares y usuarios de la PI de la GenAI?
Estas cuestiones no tienen una respuesta única ni sencilla, y requieren de un análisis jurídico y técnico caso por caso, teniendo en cuenta las particularidades y las circunstancias de cada situación. Algunas posibles soluciones son las siguientes:
- Reconocer la personalidad jurídica de la GenAI, y otorgarle derechos y deberes como sujeto de derecho, incluyendo los de PI. Esta opción, sin embargo, plantea problemas de orden práctico, ético y filosófico, como la capacidad, la responsabilidad, la representación, la identificación, la autonomía, la conciencia, etc., de la GenAI.
- Ampliar las excepciones o limitaciones al derecho de autor o a las patentes, para permitir el uso de las obras o las invenciones protegidas por la GenAI, siempre que se respeten los derechos morales y se reconozca la autoría o la titularidad original, y que se persiga una finalidad lícita, como la investigación, la educación, la información, el interés público, etc.
- Crear un régimen específico para las obras o las invenciones generadas por IA, que establezca unas condiciones y unos requisitos especiales para su protección, como una duración más corta, una remuneración simbólica, una gestión colectiva, una licencia obligatoria, etc.
Privacidad y protección de datos
La privacidad y la protección de datos son derechos fundamentales que garantizan el control y la autodeterminación de las personas sobre sus datos personales, es decir, cualquier información que las identifique o las haga identificables, como el nombre, el DNI, el correo electrónico, la imagen, la huella digital, el historial médico, las preferencias, las opiniones, etc. La privacidad y la protección de datos implican el respeto a la intimidad, la dignidad, la libertad y la seguridad de las personas, y el cumplimiento de unos principios y unos requisitos legales para el tratamiento de sus datos.
La GenAI puede afectar a la privacidad y la protección de datos de varias formas, como recopilando, procesando y analizando grandes cantidades de datos personales, provenientes de diversas fuentes y con distintos fines. Por ejemplo, la GenAI puede utilizar los datos personales para ofrecer servicios personalizados, como recomendaciones, publicidad, asistencia, etc., o para tomar decisiones que afecten a los derechos o intereses de las personas, como la concesión de un crédito, la selección de un candidato, el diagnóstico de una enfermedad, la imposición de una sanción, etc.
Estas situaciones plantean riesgos para la privacidad y la protección de datos, como la vulneración del consentimiento, la finalidad, la minimización, la calidad, la licitud, la lealtad y la transparencia de los datos. Asimismo, pueden generar consecuencias negativas para las personas, como la pérdida de control, la invasión de la intimidad, la suplantación de la identidad, el robo o la fuga de datos, el daño reputacional, la discriminación, la exclusión, la manipulación, etc.
Para evitar o minimizar estos riesgos y consecuencias, la GenAI debe cumplir con el Reglamento General de Protección de Datos (RGPD) y otras normas aplicables, que establecen los principios y requisitos para el tratamiento de los datos personales. Siendo particularmente reseñables en consentimiento informado, la finalidad y calidad de los datos o la transparencia y seguridad de estos datos.
Sesgos y discriminación
La discriminación consiste en la preferencia, el prejuicio o el trato desigual o injusto hacia personas o grupos, basados en características o circunstancias irrelevantes o arbitrarias, como el género, la raza, la edad, la orientación sexual, la religión, la discapacidad, etc. Vulnerando los principios de igualdad, dignidad, diversidad y no discriminación, que son valores fundamentales de los derechos humanos y del Estado de derecho.
La GenAI reproduce y puede amplificar los sesgos presentes en la información que se ha usado para su entrenamiento y un uso irresponsable puede generar discriminaciones injustas o arbitrarias, debido a diversos factores, como que los datos sean incompletos, sesgados o erróneos, los algoritmos que pueden estar diseñados, programados o modificados con criterios subjetivos, arbitrarios o discriminatorios, o con fines ilícitos, abusivos o contrarios a la ética o los usos que pueden de forma indebida, irresponsable o malintencionada, o sin el consentimiento, el conocimiento o la supervisión de las personas o los grupos afectados.
Estos factores pueden provocar que la GenAI tome decisiones o realice acciones que discriminen o perjudiquen a las personas o los grupos, en función de sus características o circunstancias, y que afecten a ámbitos vitales, como el laboral, el educativo, el sanitario, el judicial, el policial, etc. Algunos ejemplos reales o hipotéticos son los siguientes:
- Un sistema de GenAI que dicta las sentencias de los jueces, y que impone penas más severas o más leves a los acusados, en función de su género, su raza, su edad, su orientación sexual, su religión, su discapacidad, etc., por aplicar criterios subjetivos, arbitrarios o discriminatorios, basados en datos o algoritmos sesgados o discriminatorios.
- Un sistema de GenAI que vigila y controla a los ciudadanos, y que identifica o detiene a las personas, en función de su género, su raza, su edad, su orientación sexual, su religión, su discapacidad, etc., por considerarlos sospechosos o peligrosos, basándose en datos o algoritmos sesgados o discriminatorios.
- Un sistema de GenAI que diagnostica las enfermedades de los pacientes, y que ignora o subestima los síntomas o las dolencias de las mujeres, de las personas de ciertas razas o de las personas mayores, por considerarlos menos relevantes o menos urgentes, basándose en datos o algoritmos sesgados o discriminatorios.
Para prevenir y corregir los sesgos y las discriminaciones de la GenAI, se deberían adoptar medidas como las siguientes:
Artículo elaborado por Rocío Catalá Martínez, manager del área NewLaw de PwC Tax & Legal
