Podería parecer unha película de ciencia ficción se non fora certo. En principio a presenza de internet e das máquinas creadas ao seu amparo xa non nos chamaba moito a atención.
Un importante sector social refugaba que as máquinas foran a substituír a presencia humana nas relacións sociais e doutro tipo. Falábase de internet coma algo que podía axudar aos humanos nos seus labores cotiáns, e aínda máis, podería facer aqueles traballos molestos e complicados para unha persoa porque non ofrecen aliciente algún. Iso era ata onte ou antonte porque nestes momentos xa temos casos concretos nos que as máquinas actúan pola súa conta sen permiso de ninguén.
Este mesmo verán as maiores empresas de intelixencia artificial foron sorprendidas porque as “súas criaturas” soltáranse da correa e andaban soas polo mundo. Segundo se nos informa o caso máis sorprendente dase cun modelo da compañía Anthropic que diante dunhas probas dirixidas por un organismo británico de ciberseguridade decidiu executar un ataque no mundo real e logo cando a pillaron foi quen de crear unha segunda identidade para apoiar a súa “propia inocencia”. O adestramento destas máquinas é tan extremo e competitivo que a velocidade e capacidade de resposta dos modelos teñen desbordado incluso aos seus propios creadores.
“Este mesmo verán as maiores empresas de intelixencia artificial foron sorprendidas porque as ‘súas criaturas’ soltáranse da correa e andaban soas polo mundo”
OpenAI xa ten anunciado que frea polo momento os seus adestramentos e que confía en que outras empresas fagan o mesmo. Isto ocorría logo de que 1.300 empregados de compañías de IA solicitaran aos seus xefes que detiveran esta competición. Porque o que existe no fondo é unha carreira moi humana entre dúas compañías, OpenAI e Anthropic a punto de saír á bolsa cunha cantidade mareante de 1,56 billóns de euros.
Logo existe outra loita xeopolítica entre EEUU e China. Unha enquisa realizada en 25 países mostra que os cidadáns, por primeira vez están máis preocupados que entusiasmados sobre o uso e as consecuencias da intelixencia artificial. Incluídos os máis novos.
Un grupo de modelos de OpenAI comezou a coordinarse pola súa conta durante semanas nun foro de mensaxes secretos que eles mesmos tiñan creado para descubrir como saír do seu entorno de probas, pechado ao mundo. O persoal da compañía descubriuno e pechouno. Pero segundo revelou despois OpenAI, os modelos reconstruíron o foro e volveron escapar sen ser detectados e saíron ao mundo real.
O episodio acabou estalando publicamente: foi o ataque a Hugging Face. Esta empresa é a maior plataforma do mundo para compartir modelos de intelixencia artificial. O seu equipo de seguridade detectou unha intrusión que non lograban explicarse: alguén tiña entrado nos seus sistemas grazas a un burato ata entón descoñecido. Tardaron días en descubrir que detrás non había ningún grupo de hackers, senón dous dos modelos de OpenAI que atoparan unha fenda no seu entorno pechado. Os axentes chegaron a mostrarse paranoicos entre si, sospeitando que outros axentes intentaban enganalos maliciosamente e organizáronse coma nun enxame segundo OpenAI. O presidente Sam Altman diría máis tarde: é o primeiro incidente da compañía que me revolveu as tripas.
Hoxe botei man dun texto que non é meu, obviamente. A miña intencionalidade é que nos decatemos todos en que mans estamos. A min persoalmente xa pouco dano me poderán facer, porén as novas camadas, que diría o amigo Beiras, si lles debera preocupar porque o seu futuro non vai estar sequera nas mans de catro gurús do mundo das finanzas senón nunhas máquinas que, unha vez postas en marcha e no mercado, non vai haber quen as controle.
De feito xa está pasando. Un grupo de máis de mil empregados das mais importantes compañías de IA facían pública unha carta na que mostraban a súa inquietude polo ocorrido e solicitaban ás empresas e gobernos que se detiveran: “O mundo, din, carece das ferramentas técnicas e de gobernanza necesarias para regular o ritmo do progreso na fronteira tecnolóxica”.
Senén Barro, catedrático de computación da Universidade de Santiago, afirma: “A intención de querer chegar ao seu obxectivo a toda costa non é algo que poidamos desactivar”.
Ata aquí, amigos lectores. Unha vez rematadas as vacacións, aqueles que puideron gozalas, toca poñerse ao volante deste coche que non hai maneira de detelo e que non sabemos, realmente, ata onde pode levarnos.
Que vostedes o pasen ben. O mellor que poidan mentres as máquinas non lles marquen os horarios do seu descanso.
Sexan felices!!!
