Libro: Ethics of Artificial Intelligence. Case Studies and Options for Addressing Ethical Challenges
Autores: Bernd Carsten Stahl, Doris Schroeder y Rowena Rodrigues
Año original de publicación: 2023
Editorial: Springer
Reseñado por: María Eugenia Bujanda
Palabras clave: Inteligencia artificial, Ética de la tecnología, Ética de las computadoras, Ética de la información, Investigación e innovación responsables
Citación del libro: Stahl, B. C., Schroeder, D. & Rodrigues, R. (2023). Ethics of Artificial Intelligence. Case Studies and Options for Addressing Ethical Challenges. Springer.
A lo largo de las últimas décadas, la Inteligencia Artificial (IA) se ha convertido en una tecnología cada vez más presente y capaz de impactar nuestra vida cotidiana en múltiples formas, a menudo sin que seamos del todo conscientes de ello. Sin embargo, los recientes avances en el aprendizaje autónomo[1], especialmente en el aprendizaje profundo, están teniendo un impacto nunca antes visto en la opinión pública debido a la aparición de herramientas[2] que nos permiten a personas no expertas explorar todo el potencial de estas últimas generaciones de IA[3].
En este contexto de una adopción sin precedentes de estas herramientas, resulta esencial reflexionar de manera profunda y debatir abiertamente sobre su funcionamiento, posibilidades reales, usos potenciales, así como las implicaciones que estos pueden tener en todas las esferas de la vida social, incluyendo la educación, la cultura, la democracia y la economía. Es importante también examinar estos temas desde una perspectiva ética y la obra que se reseña en este texto se dedica a abordar este último aspecto.
El libro Ética de la inteligencia artificial, estudios de casos y opciones para abordar los desafíos éticos, publicado por Springer en acceso abierto este mismo año, examina una serie de desafíos éticos planteados por los sistemas de IA en áreas relacionadas con los derechos humanos. Los autores del libro, Bernd Carsten Stahl, Doris Schroeder y Rowena Rodrigues, analizan casos reales publicados en medios de comunicación o informes de investigación, agrupados en siete categorías que surgieron de su trabajo en el proyecto de investigación Shaping the ethical dimensions of Smart Information Systems (2018-2021), financiado por la Unión Europea. Las categorías son las siguientes:
- Discriminación injusta e ilegal
- Privacidad
- Capitalismo de vigilancia
- Manipulación
- Derecho a la vida, la libertad y la seguridad de la persona
- Dignidad
- AI para el Bien y los Objetivos de Desarrollo Sostenible de la ONU
El libro dedica un capítulo a cada una de estas siete categorías, y utiliza la misma estructura en todos. En cada capítulo se presentan los casos de la vida real, se evalúan las situaciones aportando elementos de análisis desde un contexto más amplio, y se sugieren estrategias que permitirían abordar los aspectos éticos involucrados.
Entre los problemas éticos más graves que plantea la IA, destacan aquellos que afectan al derecho a la igualdad y la no discriminación. Estos problemas surgen debido principalmente a los sesgos y las exclusiones presentes en las bases de datos utilizadas por estos sistemas. Las implicaciones son graves, dado que cada vez más decisiones se basan o incluso se delegan en sistemas automáticos. Algunos ámbitos donde se utilizan estas tecnologías son la selección y reclutamiento de personal; el despido de personas trabajadoras; la asignación de servicios públicos y beneficios sociales; el otorgamiento de créditos y seguros; la concesión de visados y beneficios judiciales; y la vigilancia policial predictiva, entre otros.
Las fallas en la protección de los derechos relacionados con la privacidad y la intimidad son igualmente problemáticas y se evidencian en gran parte de los casos incluidos en el libro. No obstante, las situaciones más críticas se producen cuando se emplea la IA para capturar y analizar múltiples datos sobre el comportamiento, opiniones, preferencias de la ciudadanía, sin su conocimiento o permiso explícito. La gravedad de estas prácticas se vuelve evidente al observar que se enmarcan en estrategias de control y manipulación social con fines políticos y económicos, llevadas a cabo tanto por algunos Estados como por numerosas corporaciones.
El libro también aborda los peligros que algunas tecnologías representan para el derecho a la vida y a la seguridad. Los casos presentados se refieren a errores o vulnerabilidades presentes en tecnologías como los automóviles autónomos, los centros domésticos inteligentes o los sistemas de diagnóstico médico. Sin embargo, se echa en falta la mención al ámbito de mayor riesgo e implicaciones éticas y humanitarias: el de las armas autónomas[4]. Resulta crucial promulgar un instrumento internacional jurídicamente vinculante que establezca prohibiciones y regulaciones respecto a este tipo de armamento. Lamentablemente, a pesar de que países como Costa Rica han tratado de impulsar esta iniciativa en la agenda internacional desde hace más de diez años, todavía no se ha logrado obtener resultados concretos en este sentido[5].
Un último conjunto de problemas éticos se ha dado en casos de uso de la IA en proyectos de desarrollo o para el cumplimiento de los Objetivos de Desarrollo Sostenible de la ONU. En este ámbito, preocupa la falta de sensibilidad, inclusividad y participación igualitaria en la implementación de sistemas de IA creados en el Norte para su puesta en práctica en países del Sur. Estas situaciones no solo reflejan una mentalidad aún colonialista por parte de los países del Norte, sino que a menudo causan daños materiales significativos a las poblaciones afectadas.
En cuanto a las estrategias para enfrentar los problemas éticos de la IA, el libro propone una variedad de opciones interesantes. Por ejemplo, se mencionan las evaluaciones de impacto de la IA para identificar los efectos a largo plazo de la implementación de estas tecnologías. También se destaca la importancia de aplicar la ética por diseño o ethics by design, que implica la integración de valores en el proceso de diseño de los sistemas. Las regulaciones antimonopolio son otra medida importante para evitar que las corporaciones implementen prácticas que pongan en peligro la competencia empresarial justa. Además, es crucial fortalecer las prácticas de acceso e intercambio de datos, así como garantizar que las personas puedan reclamar su derecho a decidir cómo se recolectan, usan y comparten sus datos. Finalmente, es fundamental fomentar prácticas que contribuyan a la transparencia y explicabilidad de los algoritmos y de los resultados que estos arrojan.
Como se puede observar, uno de los valores más destacados del libro es que ilustra de manera concreta y práctica una serie de problemas reales que surgen del uso de estas tecnologías emergentes, junto con las implicaciones éticas que conllevan y las posibles estrategias para mitigar sus efectos negativos. Si bien no profundiza en los aspectos más teóricos, se manifiesta a favor de un enfoque abierto y plural de la ética de la IA y señala que muchas de las reflexiones se inspiran en el enfoque de generación de guías basadas en principios éticos. Las propias autoras hacen hincapié en que “este es un libro de estudios de caso de ética de la IA, no un libro filosófico sobre ética” (p. 5).
Aunque el propósito de este libro no es realizar un estudio a profundidad de la ética de la IA, es importante reconocer la importancia de comprender de manera profunda los múltiples factores sociales, económicos y políticos que influyen en el diseño, implementación y uso de estas tecnologías, considerando sus posibles repercusiones a mediano y largo plazo en todos los ámbitos de la vida humana.
Por último, también resulta fundamental la necesidad de continuar reflexionando sobre las implicaciones éticas de los diferentes tipos de sistemas de IA, a medida que estos van surgiendo y evolucionando. Un ejemplo de ello son los modelos de lenguaje avanzados que han capturado la atención mediática recientemente (como GPT). Estos modelos presentan problemas propios y distintivos, que incluyen la apropiación indebida de producciones artísticas e intelectuales, la explotación de mano de obra barata en países del África para las labores psicológicamente más desgastantes de la fase de afinamiento del modelo, el antropomorfismo y su impacto en las personas, el ingente consumo de recursos energéticos, la creciente dificultad para diferenciar contenido auténtico de contenido sintético, así como el peligro de concentración de poder en un reducido número de corporaciones.
Para concluir esta reseña, se destaca una de las consecuencias más relevantes que se derivan del tema abordado en el libro, especialmente para los sistemas educativos y las instituciones de educación superior. Según las autoras del libro, es crucial plantear el desarrollo de la capacidad y la voluntad de reflexionar sobre las implicaciones éticas del uso de las tecnologías digitales, como una competencia esencial para la vida en las sociedades actuales y futuras. Esto significa que las instituciones educativas, especialmente la universidad, deberán asegurar que estos elementos se contemplen en la formación de su estudiantado, así como en sus planes de investigación y de extensión cultural.
[1] Sistemas que incorporan datos históricos para realizar predicciones y que siguen adaptándose a medida que reciben más datos.
[2] Herramientas como ChatGPT, Midjourney, Whisper, DALL-E, Runway, Tome, entre muchas otras, etc.
[3] Se le ha dado el nombre de “IA generativa” a la última generación de herramientas de IA que permiten generar datos y productos nuevos, distintos de aquellos con los que fueron “entrenadas”, haciendo posible la creación de nuevos textos, imágenes, vídeo, código, sonido, etc.
[4] Armamento que usa sensores, algoritmos y aprendizaje automático para operar sin intervención humana directa.
[5] Costa Rica ha apoyado desde el inicio todas las iniciativas internacionales que se han promovido desde Naciones Unidas para la aprobación de un instrumento jurídico vinculante en este campo. En 2020 lanzó la campaña nacional Por un país libre de armas autónomas: tecnología al servicio de la paz. En febrero de 2023, organizó la Conferencia Latinoamericana y del Caribe sobre el impacto social y humanitario de las armas autónomas, en el que participaron autoridades de 33 Estados de América Latina y el Caribe, representantes de la sociedad civil y de organismos internacionales.