El Pentágono ha eliminado páginas web dedicadas a figuras históricas negras e indígenas, atribuyendo la decisión a la inteligencia artificial, en medio de una polémica sobre la gestión de contenidos y la inclusión en la era digital. Además, una demanda contra Workday revela cómo la IA en recursos humanos puede discriminar a candidatos por raza, edad y discapacidad, generando nuevas preocupaciones legales y éticas.
En un movimiento que ha generado controversia a nivel internacional, el Departamento de Defensa de Estados Unidos, conocido como el Pentágono, ha decidido eliminar varias páginas web que destacaban a figuras históricas afroamericanas e indígenas.
La justificación oficial apunta a un proceso automatizado impulsado por sistemas de inteligencia artificial, utilizados para gestionar y depurar contenidos en sus plataformas digitales.
Este hecho ha reavivado el debate sobre el papel de la inteligencia artificial en la censura y la gestión de la información histórica. La decisión se produce en un contexto donde Estados Unidos ha enfrentado múltiples críticas por su enfoque hacia la diversidad y la inclusión, especialmente en instituciones gubernamentales y educativas.
Históricamente, el Pentagon ha tenido una relación compleja con la representación de minorías. Durante décadas, ha habido esfuerzos para incluir voces diversas en su narrativa institucional, pero también episodios de exclusión y discriminación.
La eliminación de estas páginas ha sido interpretada por algunos expertos como parte de un intento más amplio de reconfigurar la memoria pública, quizás para favorecer una visión más homogénea o alineada con ciertas agendas políticas.
Por otro lado, la controversia no solo se limita a temas históricos. En los últimos años, la inteligencia artificial ha sido adoptada ampliamente en recursos humanos para automatizar el proceso de selección de personal.
Sin embargo, un caso emblemático ha puesto en evidencia las posibles discriminaciones que puede generar esta tecnología. En 2023, una demanda contra la empresa de software Workday fue presentada por Derek Mobley, quien alegó que las herramientas de filtrado y clasificación de candidatos discriminaban a personas por motivos de raza, edad y discapacidad.
Mobley, con una trayectoria en finanzas y tecnología, afirmó haber sido rechazado en múltiples ocasiones a pesar de cumplir con los requisitos y tener una sólida experiencia laboral.
La denuncia revela que el sistema de IA de Workday, entrenado con datos históricos de contratación, perpetuaba sesgos existentes en el mercado laboral.
Cuatro otros demandantes, todos mayores de 40 años, se sumaron a la causa, acusando a la tecnología de bloquear oportunidades a trabajadores de edad avanzada.
El juez federal Rita Lin permitió que la demanda procediera como una acción colectiva, lo que significa que otros afectados podrían unirse y presentar sus casos.
La compañía Workday ha declarado que confía en que las acusaciones serán desestimadas tras presentar pruebas en su defensa, pero el caso ha puesto en evidencia los riesgos legales asociados con el uso de IA en procesos de selección.
Este escenario abre un debate global sobre la ética y la regulación de la inteligencia artificial en ámbitos sensibles. La Unión Americana para las Libertades Civiles (ACLU) ha advertido que muchos algoritmos de contratación están entrenados con datos que reflejan prejuicios sociales y sistémicos, lo que puede traducirse en discriminación involuntaria.
El ejemplo de Amazon en 2014, cuando fue abandonado un sistema de selección automatizada que discriminaba contra mujeres en puestos técnicos, es un recordatorio de los peligros que conlleva depender demasiado de la tecnología sin controles adecuados.
La historia demuestra que, aunque la IA puede ser una herramienta poderosa para mejorar la eficiencia, también requiere una supervisión cuidadosa para garantizar la equidad.
Mientras tanto, en el caso del Pentágono, la eliminación de páginas web se ha interpretado como un intento de limitar la visibilidad de ciertos aspectos de la historia, una práctica que inquieta a académicos y defensores de los derechos civiles.
La gestión de contenidos digitales en instituciones públicas debe equilibrar la automatización con la responsabilidad ética, para evitar que sesgos y decisiones arbitrarias distorsionen la memoria colectiva.
En conclusión, tanto en el ámbito de la historia como en el laboral, la inteligencia artificial está demostrando ser un arma de doble filo. La comunidad internacional demanda regulación y transparencia para su uso, a fin de proteger los derechos fundamentales y promover una sociedad más inclusiva y justa.
La polémica en torno al Pentágono y la batalla legal contra Workday ejemplifican los desafíos que enfrentamos en esta era digital, donde la tecnología puede tanto empoderar como discriminar si no se manejan con responsabilidad.
