La innovación tecnológica se ha convertido en el mantra más poderoso de la época contemporánea. Estamos sujetos a un bombardeo interminable de noticias espectaculares acerca de los avances de una tecnología que, de manera paradójica, nos conecta sin unirnos y hace posible la desinformación masiva en la era de la información y el conocimiento. Ya es incluso difícil de imaginar la vida colectiva con independencia de la racionalidad algorítmica que rige el mundo. Así las cosas, la proyección de escenarios distópicos exige que la innovación acelerada —y la vertiginosa disrupción que la acompaña— deba evaluarse a la luz de las consecuencias que ya son visibles.

El problema se magnifica en el campo de la inteligencia artificial—la cual trata de modelar las funciones mentales a través de la computación. La innovación en esta área afecta hasta la manera en que el ser humano se concibe a sí mismo. Las referidas noticias o especulaciones suelen plantear preguntas fundamentales respecto a la misma naturaleza humana. Transhumanistas como el filósofo sueco Nick Bostrom, anuncian el surgimiento de una superinteligencia que terminará dominando al ser humano.  De ahí la necesidad de que la innovación tecnológica en el campo de la inteligencia artificial se examine de forma democrática.

Para comenzar, es recomendable que las sociedades actuales adopten una actitud de crítica saludable frente a las proyecciones en el campo aludido. Se debe tomar en cuenta, como lo señala Kate Crawford, que los sistemas de inteligencia artificial sirven a intereses poderosos. No debe ignorarse que los empresarios tecnológicos dominan la conversación digital de la humanidad. Según datos de la ONU, aproximadamente el 67 por ciento de la población mundial tiene acceso al internet.

Por su poder de disrupción, la inteligencia artificial plantea escenarios para los cuales se deben encontrar respuestas en el futuro inmediato. La innovación no puede llevarse a cabo de manera descontrolada puesto que, a medida que la inteligencia artificial se implementa en muchas actividades humanas, esta penetra en las fibras más íntimas de la vida colectiva. Muchas veces nuestros aparatos tecnológicos registran y conservan los datos de nuestra vida virtual, hecho que facilita el control en un mundo filtrado por algoritmos que son ignorados por la mayor parte de los usuarios.

Como lo indica Kate Crawford, la inteligencia artificial no se agota en el universo virtual. Esta tecnología descansa en el mundo natural y social y, por tanto, es una fuerza de transformación de la realidad mundo. Estos cambios están marcados por la desigualdad ya que el dominio tecnológico es un índice de poder que condena a sociedades como la nuestra a no poder controlar su destino.

Estos efectos se ven en casi todos los ámbitos sociales, especialmente en la forma de violación estructural de derechos humanos—es decir, condiciones opresivas que afectan la dignidad de los diversos grupos vulnerables. Hemos sido testigos de la forma en que las plataformas sociales permiten la consolidación de actitudes de rechazo hacia personas vulnerables. Es lícito preguntarse por la pérdida de capacidad reflexiva que acompaña a la tan celebrada innovación tecnológica que, como se hace evidente con el paso del tiempo, es paralela a la deriva totalitaria de las sociedades actuales.

Ahora bien, la situación se desborda del marco virtual para alcanzar la vida de la sociedad no virtual. Por ejemplo, el consumo de energía es notable y supone nuevas industrias extractivas como es el caso de los metales raros que han configurado nuevos intereses geopolíticos. Asimismo, el progresivo desplazamiento de actividades humanas a la tecnología inteligente lleva a una masiva exclusión humana de las estructuras económicas que debieran promover el bien común.

De este modo, alcanzar las regulaciones necesarias para que el desarrollo de la inteligencia artificial requiere un trabajo deliberativo dentro de la arena política global. En este contexto, es difícil pensar en la influencia que un país como el nuestro puede tener en este desarrollo, aun cuando las consecuencias no serán menores para los países sin ninguna voz relevante en el desarrollo tecnológico.

Sin embargo, nuestra voz puede unirse al creciente coro de voces que ponen en guardia contra el desarrollo tecnológico sin sentido. Es lamentable que la gestión del desarrollo tecnológico se esté realizando en la esfera privada o en los contextos de poder autoritario, como es el caso de China. Es vital buscar puntos en común con otros países para que una voz unida exprese soluciones integrales para un problema que enfrentamos como humanidad. Por lo tanto, la opción correcta es que los países que van a pagar de manera más cara el progreso tecnológico avancen el ideal de proteger los derechos humanos.