Metáforas caninas

Uno de los debates más importantes con respecto a la IA es “el problema del alineamiento”; esto es, si se puede garantizar o no que la IA no se aparte de procurar el beneficio de la especie humana. El siempre lúcido Sam Harris considera que son más factibles los escenarios de no alineamiento que los de alineamiento. Pero aun si somos afortunados de lograr que la IA esté de nuestro lado, habría que imaginar el escenario. Conversando con Scott Galloway en el podcast de este último (“The Prof G Pod”), Sam Harris estableció una inquietante analogía.

Hace unos 30 mil años, una especie decidió asociarse con otra más inteligente en su propio beneficio. Una variedad de lobos encontró más útil seguir a los grupos humanos de cazadores-recolectores que permanecer apartados en sus propias manadas errantes.  Los perros que son sus descendientes se fueron acostumbrando y adaptando a un mundo cada vez más extraño y alejado del suyo, un mundo transformado y, además, cambiante a un ritmo acelerado. Del mismo modo que hoy en día los perros actuales se maravillan de que sus amos saquen comida quién sabe cómo y quién sabe de dónde, no comprenden el 98% de sus acciones, aun las que son en su propio beneficio, como llevarlos al veterinario, hacerles ingerir medicamentos, espulgarlos y bañarlos. Los perros no tienen la menor idea de cómo funciona ese mundo ni de por qué sus amos hacen lo que hacen. Sólo mantienen la misma regla: seguirlos, estar apegados a ellos porque es la única fórmula infalible. Basta decir que, mientras la población mundial actual de lobos se estima entre 200 y 250 mil individuos, la de perros domésticos oscila entre 700 millones y mil millones.

Hay algunas cosas que subrayar o añadir a la analogía de Sam Harris. Primero: la integración al mundo que construye la parte más inteligente de esa nueva sociedad transforma inevitablemente al socio menos inteligente. Los lobos asociados se transformaron primero en perros y luego en perros domésticos. Además, puede interferir con su reproducción. De acuerdo con la Fédération Cynologique Internationale (FCI), entre el Gran Danés y el Chihuahua hay 362 razas caninas reconocidas por los criadores.  Sobra decir que los criterios seguidos que llevaron a semejante variedad morfológica son completamente incomprensibles para esas criaturas de cuatro patas que nos miran todo el tiempo con esa mezcla de expectación y ansiedad.

Segundo: del mismo modo que un sistema alienígena adopta, también puede desadoptar. Por razones igualmente fuera del alcance del afectado o no previstas, la IA puede dejar de tutelar a individuos que, a partir de ahí, son nómadas pero atrapados en un mundo extraño en donde, sea por accidente o a propósito, pueden terminar arrollados, pues no entienden cómo navegar en ese mundo, cuándo están en peligro inminente o se incurre en un riesgo letal. Son cabos sueltos que se presentan continuamente dentro del sistema y que el propio sistema termina podando.

Tercero: el alineamiento de la IA puede tener, o darse a sí misma, como función maximizadora, el beneficio de la especie humana, sin que el beneficio de los individuos en particular sea, digamos, un imperativo categórico (derechos humanos). Así puede incurrir en prácticas eugenésicas, disminuir drásticamente el volumen poblacional para llevarlo a un óptimo sustentable y, en el camino, preferir unas razas sobre otras para mantener el vigor de la especie tutelada. Se dirá que no es algo nuevo: justo lo que intentaron en su momento los nazis. En efecto, sólo que a los nazis se les podía detener porque no eran una inteligencia superior como creían serlo. Pero, además, cuando hay una oposición o una rebelión frente a un mundo que no se comprende y del que se depende, no hay manera de saber cuál es el límite de esa oposición o rebelión, pues, pasados ciertos umbrales que se desconocen, se compromete la existencia misma de la especie.

Es así como el alineamiento culmina en la pérdida total de autonomía: algo que, por lo demás, ya se comenzaba a configurar con el advenimiento de la tecnología digital e internet, sin los cuales no concebimos nuestra actividad diaria. El siguiente paso consiste en ni siquiera concebir nuestra propia existencia.

En cuanto a los escenarios de no alineamiento sólo cabe decir dos cosas:

1. Pueden ser de una enorme variedad de formas. En todo caso, hay muchas más modalidades que las ceñidas al alineamiento, pues este último tiene, por lo menos, un parámetro de restricción: la supervivencia de la especie. En cuanto al no alineamiento, no necesariamente tiene que ser hostil a la especie humana, simplemente puede ser indiferente a su bienestar. Al no tener la restricción de la sobrevivencia humana, la multiplicidad de escenarios hace mucho más probable el no alineamiento que el alineamiento

1. No es posible concebir una analogía para un escenario de no alineamiento. Literalmente está fuera de nuestra imaginación.  Es como si tratásemos de utilizar el concepto de nado para describir lo que hace un submarino. Son escenarios por fuera de las fronteras del lenguaje.

Se duda de las facultades hiperbólicas de la divinidad (p.ej., omnisciencia y omnipotencia) porque, si la divinidad puede crear algo más sabio que sí misma, prueba que no es omnisciente, y si no puede hacerlo porque su saber es insuperable, ello prueba que no es omnipotente. La ironía es que los seres humanos pueden autodesafiarse porque su saber y su poder no son infinitos. La ironía a la segunda potencia es que el mecanismo aporético aquí descrito protege a la divinidad de sí misma, mientras que a los seres humanos nada les protege de ejercer sus propias facultades.

Ahora comenzamos a comprender mejor los mitos del fruto prohibido del árbol del conocimiento o de robar el fuego de los dioses.  Sin embargo, aquí el castigo está despojado del drama de la expulsión del paraíso o del de un encadenado a un peñasco cuyas entrañas devora un ave de rapiña. Cuando los mortales buscan poseer facultades reservadas a los dioses, resulta que su destino es convertirse en las mascotas de su creación magna… si bien les va.  

‍

‍

Arte en portada
Bicha of Balazote