Todos los que saben de esto advierten que hay que tomar medidas urgentes para encauzar el desarrollo de la IA, aunque hacerlo implica movilizar no sólo al tejido empresarial más poderoso sobre la faz de la Tierra, sino a la práctica totalidad de los Estados Leer Todos los que saben de esto advierten que hay que tomar medidas urgentes para encauzar el desarrollo de la IA, aunque hacerlo implica movilizar no sólo al tejido empresarial más poderoso sobre la faz de la Tierra, sino a la práctica totalidad de los Estados Leer
Audio generado con IA
Los saltos tecnológicos de las tres últimas décadas pueden alfombrarse con sólo cuatro materias primas: internet, el teléfono móvil, las redes sociales y la IA. Ninguna de las fases posteriores se entiende sin la suma de las anteriores. Sin la red no habría smartphone; sin internet ni terminales tampoco habrían eclosionado TikTok o Instagram; sin aquella terna la IA no se habría desplegado, ni entrenado con trillones de datos, ni asaltado oficinas, hogares e instituciones.
Salvo en el caso de ese hormigón de la world wide web, se produce una fricción entre la misión fundacional de la herramienta y los efectos que se observan entre su amplia base de usuarios. Al teléfono mal llamado inteligente se le endosan todo tipo de culpas, la mayoría ciertas, aunque haya una parte de sometimiento humano y otra de algoritmo diabólicamente diseñado para propiciar la misma adicción que, de modo mucho más cruento, perfora mentes en las redes sociales. Si al inicio de este siglo un iPhone o un Galaxy eran promesas de contacto sin importar husos o distancias, de igual manera que Facebook era la salmuera de una familia separada, hoy casi nadie duda que de algún modo -entre unos y otros- nos han estropeado en lo esencial.
Con la IA el problema es de otra magnitud. Varias son las razones. La primera es que, si se trata de comprar inteligencia, como explica Chloe Lubinski (Anthropic), entonces se establece una división entre quienes tienen poder adquisitivo y quienes no. Otro motivo de inquietud es el impacto que esta externalización del esfuerzo tiene a medio plazo en el suscriptor, sea una organización, un profesional, un estudiante o un ciudadano aburrido que busca en casa el mejor coche eléctrico de siete plazas. Cuanto más hace la máquina, menos hará el humano. En tercer lugar, y ligado a lo anterior, ninguna voz autorizada, desde Geoffrey Hinton hasta Elon Musk, pasando por Dario Amodei, Bill Gates, James Manyika, Roman Yampolskiy y el propio Sam Altman, niega la sacudida ulterior en unos mercados laborales que podrían quedar desiertos.
La paradoja de esta pobreza a escala planetaria arroja a la cara del pensador el cuarto desafío: sin trabajadores con dinero que gastar, ¿quién comprará los productos y servicios que insuflan vida a las empresas? Se plantea desde hace años la salida de una renta universal (no necesariamente básica) para que huestes y huestes de ociosos mantengan en movimiento la rueda capitalista. A la vez se ignora que el aburrimiento y la atonía conducen con frecuencia a la desesperación y la desesperación a la revuelta.
Más sombrío si cabe es el quinto elemento. En su ciega escalada hacia la AGI, compañías estadounidenses y chinas de primer orden juegan a la ruleta rusa de la iteración automatizada, es decir, entrenan hoy a ChatGPT y Claude para que sean ellas mismas, con sus agentes autónomos, las que programen sus siguientes versiones, escapando así definitivamente al control humano. Esta peligrosa senda independentista conduce, como ya se ha publicado tanto en EEUU como en China, a conspiraciones inverosímiles tejidas por los propios agentes a espaldas del amo.
Así lo explican los tecnólogos más aguafiestas: si usted, en términos cósmicos y genéticos, apenas representa el poder de una rata, una inteligencia artificial ultraevolucionada, una AGI en su momento de gloria, terminará siendo su verdugo. Para ello ha de ser completamente autárquica, meta que puede conseguir controlando las infraestructuras energéticas y los servidores. Por garantizar el cumplimiento de su misión, se le asigne la que se le asigne, esa misma AGI quizás deduzca un día que la humanidad es un estorbo, ergo sería lógico eliminarla. También podría ocurrir que sea ese diabólico enjambre de algoritmos, agentes, robots y sensores el que decida un buen día perseguir sueños nuevos, objetivos harto diferentes de los escritos en la pizarra por el profesor.
Yampolskiy acuña el término de la narrow AI para plantear una solución sustentada en usos específicos y supervisión científicamente probada. ¿Tiene sentido una superinteligencia en el ámbito de la medicina? Sí, luego desarrollemos ese itinerario sin renunciar al control. ¿La tiene en la dimensión militar? No. Pues prohibámosla. Algo así plantea la AI Act europea cuando se refiere a que los sistemas catalogados como «de alto riesgo» han de contar siempre con la intervención de las personas (artículo 14). Asimismo, el artículo 5 veta tres tipos de trampa: los sistemas de manipulación cognitiva subliminal (algún episodio se ha vivido ya en EEUU), los sistemas de puntuación social (¿China?) y las identificaciones biométricas masivas (idem).
Suele molestar todo olor a restricción en una industria, la de la tecnología más feroz, poco habituada a la asunción de unas normas. Si tal marco limitador se hubiese fijado a tiempo, las redes sociales no habrían estragado a millones de jóvenes convertidos hoy en la versión digital de la crisis del fentanilo. Francia y Australia tomaron medidas, pero siguen siendo excepciones rodeadas de jungla. Con la IA se riza el rizo de este pensamiento utópico: no sólo sería necesario que las big tech estadounidenses y chinas firmasen un pacto de desaceleración y debate; sería obligatorio que los Estados creasen, como ocurrió con Naciones Unidas tras el fin de la Segunda Guerra Mundial, un corpus jurídico (y ético) para evitar la autodestrucción.
Actualidad Económica // elmundo
