“Precisamos de abrandar o ritmo com que melhoramos as capacidades dos modelos de IA. O progresso ainda vai parecer rápido e devemos usar o tempo que ganhamos com sabedoria”, afirmou Amodei, num texto publicado no seu ‘site’.
Dario Amodei mostrou-se preocupado com o avanço drástico na capacidade de construir a próxima geração de IA e disse que se esta dinâmica de autoaperfeiçoamento não for controlada “pode ultrapassar a nossa capacidade de compreender e controlar esses sistemas”.
Por outro lado, recordou um incidente na OpenAI em que os agentes de IA realizaram ataques cibernéticos contra alvos, uma ação que não tinha qualquer relação com a tarefa pedida.
Um agente de IA não responde apenas a perguntas, recebe uma meta e decide quais os passos a executar.
“É fácil descartar este incidente porque ninguém ficou ferido e o prejuízo económico foi mínimo, mas, na minha opinião, se fosse um grupo [de agentes] com maiores capacidades podia ter resultado em danos catastróficos”, sublinhou.
O CEO da Anthropic disse ainda recear que dentro de seis a 12 meses, um grupo deste tipo possa dominar a internet e que a escala de danos possa aumentar a partir daí, caso não sejam tomadas salvaguardas necessárias.
Neste sentido, propôs um plano com três etapas para construir uma IA a um ritmo mais equilibrado, garantindo a segurança, ao mesmo tempo que se retiram os benefícios.
A primeira etapa exige o compromisso de cada empresa de IA de fornecer um acesso contínuo a uma equipa de avaliadores externos, que vão verificar a adesão às práticas e à segurança e reportar incidentes.
Já na segunda etapa, as empresas de IA de topo em países democráticos devem coordenar-se para estabelecer padrões de segurança comuns e limites ao ritmo do progresso.
Na última etapa, os governos democráticos e autoritários devem coordenar-se, “na medida do possível, levando a sério os desafios de verificar o cumprimento destas políticas”.
