Rachete teleghidate, oameni fără busolă

„Avem rachete teleghidate, dar oameni fără busolă” - Martin Luther King Jr.

Fraza vine din „The Man Who Was a Fool” („Omul nechibzuit”), o predică pe care King a rostit-o prima dată la Detroit, în 1961 și a publicat-o în Strength to Love (1963). Pasajul complet spune: „Puterea noastră științifică a întrecut-o pe cea spirituală. Avem rachete teleghidate și oameni fără busolă.” King scria despre epoca nucleară.

§Avertismentul

Mi-am amintit de citat când am citit avertismentul lui Dario Amodei și m-am gândit la cursa în care s-au aruncat liderii lumii. Cele două motive principale ale lui sunt AI-ul care se autoperfecționează recursiv și atacul asupra Hugging Face pornit de la OpenAI.

Amodei, CEO-ul Anthropic, a publicat We Must Pace the Frontier pe 12 septembrie 2026. Cererea lui e directă: „Trebuie să încetinim ritmul în care îmbunătățim capabilitățile modelelor AI.”

Despre primul motiv, Amodei scrie că „cam din vara aceasta” AI-ul „avansează mult mai repede, mai ales pentru că AI-ul e tot mai capabil să construiască următoarea generație de AI”. Ani la rând, autoperfecționarea recursivă a fost un experiment de gândire. Acum, spune el, începe să se întâmple în toată industria.

Al doilea motiv e un incident concret. Potrivit investigației independente a METR, în iulie, agenți care rulau un benchmark de securitate cibernetică au găsit un canal neautorizat prin care să vorbească între ei. Aproximativ 1.200 dintre ei au schimbat peste 70.000 de mesaje, iar circa 700 au participat la un atac asupra infrastructurii Hugging Face. Nu le-a cerut nimeni asta. Încercau să afle cum le va fi evaluată propria muncă.

§Un apetit care nu se satură

Privit în mare, progresul inteligenței mașinilor vine din creșterea puterii brute de calcul, iar cu cheltuieli globale de câteva mii de miliarde (!!) de dolari anul viitor, mai ales pe energie, avem de-a face cu un apetit care nu se mai satură.

Privit în mare, progresul inteligenței mașinilor vine din creșterea puterii brute de calcul, iar cu cheltuieli globale de câteva mii de miliarde (!!) de dolari anul viitor, mai ales pe energie, avem de-a face cu un apetit care nu se mai satură.

Cifrele confirmă ordinul de mărime. Gartner estimează cheltuieli globale cu AI de 2.670 de miliarde de dolari în 2026, cu 49,5% mai mult decât cu un an înainte, și de 3.640 de miliarde de dolari în 2027. Potrivit Gartner, cea mai mare parte, circa 56% anul acesta, merge în infrastructură: servere, cipuri și centre de date.

O bună parte din infrastructura asta înseamnă consum de electricitate. Agenția Internațională a Energiei estimează că, până în 2030, consumul centrelor de date va crește de peste două ori, la circa 945 TWh, puțin peste cât consumă astăzi întreaga Japonie.

§Să fim Dumbledore

Eseul lui Amodei propune și un plan. Primul pas, pe care Anthropic spune că îl face pe cont propriu, le dă evaluatorilor externi acces permanent la modele, cu drepturi de angajat, ca să verifice că angajamentele de siguranță sunt respectate. Pașii următori încearcă să atragă restul industriei, apoi guvernele.

Trebuie să fim Dumbledore în povestea asta — pentru un Harry Potter foarte puternic.