Se dice que la tecnología es moralmente neutra y que sus usos determinan si es beneficiosa o dañina para la sociedad. No obstante, esta afirmación oculta presupuestos problemáticos. La tecnología bélica, por ejemplo, no es una simple herramienta, sino que altera las mismas circunstancias de la vida humana. Una guerra nuclear puede destruir a la humanidad y en esa posibilidad se inscribe un derrotero nuevo para la humanidad. Asimismo, las tendencias disruptivas de la cada vez más acelerada innovación tecnológica nos hacen vivir en un mundo sin asideros fijos. De este modo, no significa la operación de simples herramientas, sino de cambios en el mismo sistema de vida.

Con todo, la técnica parece ser un componente ineludible de la vida humana. El filósofo español José Ortega y Gasset consideraba que la técnica es inherente a la tarea de humanizar el mundo y, bajo esta óptica, luchar contra la técnica es realmente un esfuerzo fútil. Sin embargo, ante el poder de la tecnología cabe evaluar esta idea. Nada eclipsa el hecho de que la tecnología cibernética está deshumanizado al mundo. La humanidad debe temer por su futuro ante el hecho de que la inteligencia artificial está desplazando a los seres humanos de sus actividades. Los cada vez más invasivos algoritmos de la inteligencia artificial penetran en la configuración del mundo; se genera una realidad virtual en la cual se instalan estructuras que alteran radicalmente la vida humana.

Por tanto, nunca se debe dejar de lado la pregunta acerca de lo que significa hacer que la tecnología se integre en la vida de las personas. Puede pensarse, por ejemplo, en la forma en que los chatbots distorsionan los procesos comunicativos a través de los cuales los seres humanos generan el mundo compartido. Este problema se ilustra con la situación que enfrentan las instituciones educativas, en las cuales se usan herramientas como ChatGPT en diversas actividades de aprendizaje.

Los efectos negativos de la tecnología se reflejan en algunas de las tendencias políticas seguidas por empresarios tecnológicos. La automatización de la vida humana tiende a sustituir a los empleados federales del gobierno estadounidense con las herramientas desarrolladas por la inteligencia artificial. Kyla Chayka, en un reciente artículo en The New Yorker, arguye que el esfuerzo por la eficiencia de Elon Musk está destinado precisamente a sustituir la agencia humana. Por su parte, en un artículo reciente de Scientific American, Asmelash Teka y Timnit Gebru critican la creencia de que el remplazo de los empleados federales por Chatbots incrementaría la eficiencia en la provisión de los servicios estatales. Estos autores reparan, por ejemplo, en los inconvenientes que puede acarrear las “alucinaciones”—fabricaciones de los programas inteligentes— en las que suelen caer estos programas y que reflejan problemas de diseño. Las consecuencias de estas insuficiencias pueden ser catastróficas cuando se refieren a seres humanos, sin contar la incertidumbre y precarización que alcanza a cada vez más segmentos de la población.

Detrás del deslumbramiento inicial de la innovación, las siluetas de un futuro distópico se van haciendo más evidente. No se trata de que la inteligencia artificial no pueda realizar ciertas tareas de una manera muy eficiente, especialmente aquellas tareas que demandan procesar ingentes cantidades de información; más bien, es que la inteligencia artificial es incapaz de desarrollar las intuiciones morales básicas que sostienen a una sociedad. El discurso de la eficiencia no proporciona los conceptos básicos para entender los fines de un sistema, especialmente cuando la inteligencia artificial se encuentra muy lejos de realizar las promesas a las que aferran sus defensores más acérrimos.

Estos cambios marcan tendencias globales que acercan un futuro distópico difícil de evitar. Sin embargo, es todavía tiempo de implementar una reflexión social sobre los alcances de esta transformación global de la arquitectura social. Es particularmente digno de atención la poca reflexión sobre la tecnología, puesto que sus consecuencias son evidentes con el paso apresurado que ha adoptado la innovación tecnológica. Por lo tanto, es imperante una regulación que permita, por lo menos, aceptar sus consecuencias negativas.