La inteligencia artificial (IA) es un término amplio que se refiere a cualquier tecnología diseñada para imitar el comportamiento humano. Puede incluir programas informáticos que aprenden, se adaptan y toman decisiones sin una programación explícita. La IA tiene muchas ventajas, pero también presenta riesgos. Cuando los diseñadores crean nuevos sistemas de IA, deben ser conscientes de estos peligros potenciales para poder utilizar esta herramienta de forma responsable en el futuro.
Los sistemas de IA entrenados pueden mostrar a veces un comportamiento inesperado.
Probablemente esté familiarizado con el funcionamiento de los sistemas de IA. Un sistema de IA se entrena para realizar tareas específicas, como reconocer caras o traducir un idioma. Pero a veces ese entrenamiento puede llevar a un comportamiento inesperado. Esto se denomina «consecuencias imprevistas» y ocurre cuando se entrena a un sistema de IA con datos que contienen sesgos o errores (como si se le dieran fotos falsas de personas negras). El resultado es que el sistema aprende suposiciones incorrectas sobre el mundo que le rodea, lo que le lleva a tomar decisiones erróneas cuando hace predicciones en situaciones nuevas.
Para evitar estas consecuencias imprevistas, es importante que los diseñadores y desarrolladores entiendan cómo funcionan sus sistemas de IA y que realicen los cambios pertinentes si ven que surgen resultados problemáticos durante las fases de prueba.
El uso de IA no probada podría provocar daños y pérdidas de vidas.
La IA aún está en pañales y no está preparada para su uso en muchas situaciones. A diferencia de los humanos, la IA no puede cometer errores
Si se utiliza de forma incorrecta, la IA puede dañar el hardware o el software que controla. Por ejemplo, si a un programa de IA se le diera el control de un brazo robótico encargado de trasladar cajas de carga a una cinta transportadora, pero el programa utilizara una lógica errónea para calcular la fuerza que debe aplicarse a cada caja, esto podría provocar daños en el brazo robótico o en cualquier dispositivo mecánico conectado a él (como una carretilla elevadora). Si a ese mismo robot se le diera el control de un motor industrial -como el encargado de bombear el petróleo de una plataforma de perforación en alta mar-, supondría una amenaza aún mayor al poner en peligro la vida humana (¡y no sólo porque perdería su trabajo!).
La IA puede utilizarse para sesgar la toma de decisiones.
Los sistemas de IA están entrenados para tomar decisiones basadas en datos pasados, y esos datos pueden estar sesgados de una manera que no se puede abordar fácilmente. Por ejemplo, los resultados de una solicitud de hipoteca pueden verse influidos por el hecho de que un solicitante viva en un barrio predominantemente blanco o negro o por el hecho de que haya sido condenado por un delito.
El sesgo también puede ser intencionado; por ejemplo, podría ocurrir si un sistema de IA está diseñado explícitamente para tomar decisiones que beneficien a un segmento de la sociedad en detrimento de otros.
Incluso cuando existe un sesgo en los conjuntos de datos existentes y no hay intención de discriminar a ningún grupo de personas en particular, el resultado sigue siendo una discriminación contra los miembros de esos grupos.
La IA puede ser una herramienta de opresión.
La IA ya se utiliza para censurar contenidos y rastrear a las personas, y estos son sólo los primeros pasos. La IA también tiene muchos otros usos, como controlar el comportamiento de las personas y castigarlas por sus creencias.
La IA puede amenazar la privacidad personal.
Si una empresa está recopilando su información personal, es probable que utilice la IA para hacerlo. Por ejemplo, si la compañía de su tarjeta de crédito ha empezado a enviarle anuncios de hoteles en Bora Bora y Fiji, es probable que se deba a que han estado rastreando sus compras y se han dado cuenta de que ha estado comprando billetes de avión a destinos tropicales. Este tipo de perfil puede ser beneficioso o invasivo según el contexto: Puede que te guste recibir recomendaciones personalizadas de Amazon cuando compras libros o productos electrónicos, pero no cuando te sugieren productos basados en lo que creen que te va a gustar según tu historial de navegación (que puede incluir vídeos de gatos).
Aunque la IA tiene muchas ventajas, los diseñadores deben conocer los peligros antes de utilizarla.
- Los diseñadores deben ser conscientes de los peligros antes de utilizarlo.
- Los diseñadores deben tomar medidas para mitigar los riesgos.
- La IA es una herramienta, no una solución.
Hemos visto que hay muchos riesgos asociados a la inteligencia artificial. Sin embargo, éstos no deben disuadir a los diseñadores de utilizar la IA en su trabajo. Por el contrario, deben ser conscientes de estos peligros y tener cuidado al diseñar con esta tecnología. Si comprenden los peligros potenciales, los diseñadores pueden crear mejores productos que ayuden a las personas en lugar de perjudicarlas.
Aparece en periódicos digitales y domina los buscadores, Infórmate aquí.
- ¿Qué es la inteligencia artificial? Todo lo que necesitas saber - 2 de noviembre de 2022
- La IA tiene el potencial de crear nuevos riesgos y desafíos. - 2 de noviembre de 2022
- Derecho de la propiedad intelectual, inteligencia artificial - 2 de noviembre de 2022
