La inteligencia artificial avanza en distintos ámbitos de la vida cotidiana, pero el principal desafío no consiste necesariamente en que las máquinas desarrollen conciencia, sino en que las personas adapten sus decisiones y comportamientos a las condiciones que establecen los sistemas tecnológicos.
Máquinas que actúan sin comprender
El filósofo italiano Luciano Floridi plantea que la inteligencia artificial ha separado la capacidad de actuar de la necesidad de comprender, debido a que una máquina puede realizar tareas complejas sin tener conciencia sobre aquello que ejecuta ni comprender las consecuencias humanas de sus resultados.
Los sistemas actuales pueden traducir idiomas, clasificar imágenes, diagnosticar enfermedades, conducir vehículos, seleccionar candidatos para empleos o determinar solicitudes de crédito mediante el procesamiento de grandes cantidades de información, aunque ninguno de estos procesos implica que una máquina entienda realmente a las personas involucradas.
Esta diferencia resulta relevante porque la sociedad suele concentrar su preocupación en una posible inteligencia artificial consciente que algún día pueda dominar a la humanidad, mientras permite que sistemas sin conciencia participen actualmente en decisiones que afectan oportunidades laborales, servicios financieros, atención médica y acceso a diferentes prestaciones.
Un algoritmo no necesita sentir rechazo hacia una persona para generar una decisión discriminatoria, ni tampoco requiere una intención de manipular para influir sobre el comportamiento de quienes utilizan una plataforma, debido a que sus efectos pueden surgir de los datos, criterios y objetivos establecidos durante su desarrollo.
Cuando las personas se adaptan al software
Uno de los principales riesgos que plantea esta transformación aparece cuando los seres humanos modifican su entorno para facilitar el funcionamiento de las máquinas, en lugar de desarrollar sistemas tecnológicos capaces de responder a la complejidad de las situaciones humanas.
Este proceso puede observarse en formularios, plataformas y trámites digitales donde las personas deben ajustarse a las opciones disponibles, incluso cuando su situación particular requiere una respuesta diferente que el sistema no contempla dentro de sus parámetros previamente establecidos.
Cuando una persona recibe como respuesta que “el sistema no lo permite”, aunque un trabajador reconozca que existe una razón válida para solicitar una excepción, queda expuesta una transformación más profunda en la relación entre tecnología y sociedad.
La inteligencia artificial y sociedad comienzan entonces a relacionarse mediante estructuras donde las personas aprenden a funcionar de acuerdo con las posibilidades y limitaciones que establecen los programas, situación que puede generar una adaptación silenciosa a las reglas de la tecnología.
El riesgo, desde esta perspectiva, no consiste únicamente en una rebelión de las máquinas, sino en una transformación gradual de los seres humanos para convertirse en usuarios compatibles con sistemas que determinan previamente qué opciones existen y cuáles quedan fuera.
La autonomía también implica decidir cuándo delegar
La discusión ética sobre la inteligencia artificial no debería concentrarse solamente en evitar daños evidentes, pues también debe considerar la autonomía, la justicia, la beneficencia, la no maleficencia y la posibilidad de explicar quién toma una decisión cuando interviene un sistema automatizado.
La explicabilidad plantea preguntas fundamentales sobre el funcionamiento de los algoritmos y sobre las responsabilidades que deben asumir las instituciones cuando una decisión automatizada afecta derechos, oportunidades o condiciones importantes para una persona.
La complejidad tecnológica tampoco debería convertirse en una justificación para impedir que los ciudadanos cuestionen determinadas decisiones, especialmente cuando un sistema puede excluir, discriminar o limitar oportunidades sin ofrecer mecanismos claros para revisar los criterios utilizados.
La autonomía tampoco significa únicamente elegir entre las alternativas que ofrece una plataforma, sino conservar la capacidad de decidir cuándo resulta conveniente delegar una decisión y cuándo una persona debe mantener el control sobre asuntos relevantes.
Un sistema puede recomendar una película sin generar mayores consecuencias, pero la situación cambia cuando interviene en decisiones médicas, educativas, judiciales, políticas o personales, debido a que automatizar una elección importante puede reducir la capacidad humana para valorar aspectos que no pueden convertirse fácilmente en datos.
La ética debe ir más allá de cumplir la ley
Una tecnología puede cumplir formalmente con las normas y, al mismo tiempo, generar consecuencias socialmente cuestionables, especialmente cuando aprovecha vulnerabilidades, reproduce desigualdades o utiliza mecanismos que dificultan comprender las condiciones bajo las cuales una persona acepta determinado servicio.
En este contexto aparece el llamado ethics washing, práctica mediante la cual algunas organizaciones utilizan conceptos como transparencia, equidad y responsabilidad para mejorar su imagen sin modificar necesariamente las decisiones fundamentales que generan los problemas señalados.
Una política ética efectiva requiere algo más que códigos institucionales, comités o declaraciones públicas, porque también necesita mecanismos capaces de cuestionar decisiones empresariales y establecer responsabilidades concretas cuando una tecnología afecta negativamente a determinados grupos.
La inteligencia artificial y la sociedad requieren, por ello, una discusión que considere no solamente qué puede hacer una máquina, sino también qué decisiones deben permanecer bajo responsabilidad humana y qué límites deben establecerse antes de automatizar determinados procesos.
El desafío continúa siendo humano.
La discusión sobre una futura superinteligencia puede distraer la atención de los problemas que ya existen, porque algoritmos relativamente limitados actualmente influyen en el acceso al empleo, crédito, información, servicios médicos y visibilidad dentro de plataformas digitales.
El verdadero desafío surge cuando las personas diseñan sistemas discriminatorios, concentran información, trasladan los costos de la automatización hacia los sectores más vulnerables y utilizan la complejidad técnica para dificultar la identificación de responsabilidades cuando ocurren consecuencias negativas.
Las máquinas pueden participar directamente en determinados procesos, pero las personas y las instituciones siguen siendo responsables de establecer los objetivos, seleccionar los datos, diseñar las reglas y decidir en qué circunstancias resultan apropiadas delegar determinadas funciones.
La inteligencia artificial también cuestiona una idea tradicional sobre aquello que consideramos propiamente humano, debido a que las máquinas ya realizan con gran eficacia tareas como calcular, clasificar, predecir y procesar información que anteriormente asociábamos con capacidades exclusivamente humanas.
Sin embargo, la capacidad de establecer prioridades, cuestionar objetivos, reconocer el daño y decidir qué clase de sociedad queremos construir permanece como una responsabilidad humana, incluso cuando la tecnología pueda ejecutar determinados procesos con mayor rapidez y precisión.
El debate sobre la inteligencia artificial, por tanto, no debería reducirse a determinar cuándo una máquina podrá pensar como una persona, sino a reflexionar sobre cómo queremos utilizar estas herramientas y qué límites estamos dispuestos a establecer para proteger la autonomía y la dignidad humana.