Zuckerberg di Meta (META.US) risponde alle polemiche sul "rallentamento" dell’AI: continueremo a sviluppare le capacità dei modelli e rafforzeremo la sicurezza.

Secondo quanto riportato da Zhihong Finance APP, Mark Zuckerberg, CEO di Meta Platforms (META.US), e Alexander Wang, responsabile AI dell’azienda, sono intervenuti sul dibattito relativo alla velocità di sviluppo dell’intelligenza artificiale, sostenendo che i laboratori AI dovrebbero continuare ad accrescere le capacità dei modelli, pur rafforzando misure di protezione attorno ai sistemi sempre più potenti.

Entrambe le dichiarazioni sono state pubblicate sulla piattaforma X. Al momento, il settore discute ampiamente se sia opportuno rallentare lo sviluppo delle capacità dell’AI finché non vengano compiuti ulteriori progressi nella sicurezza dell’AI. Per “sicurezza dell’AI” si intende la garanzia che i sistemi di intelligenza artificiale rispettino in modo affidabile le intenzioni e i valori umani.

Il prezzo delle azioni Meta è salito per tre sessioni consecutive fino a martedì, registrando un aumento complessivo del 4,2%, con un leggero rialzo nel trading serale. Su Stocktwits, all’ultimo controllo, il sentiment dei piccoli investitori sul titolo risultava “estremamente ribassista”.

Zuckerberg: I laboratori hanno motivazione a creare AI più sicure

Zuckerberg ha dichiarato che le aziende AI già dispongono di forti incentivi commerciali e legali a favore della sicurezza e dell’allineamento dei modelli con gli utenti. “Le persone non saranno disposte a utilizzare agenti intelligenti che non sono in linea con loro o non si comportano come richiesto,” ha scritto Zuckerberg. “Qualsiasi laboratorio che non si concentri sull’allineamento resterà indietro.”

Secondo lui, l’allineamento sta diventando una competenza competitiva chiave, e non solo un vincolo imposto allo sviluppo dell’AI. “A mio avviso, la fiducia e l’allineamento stanno rapidamente diventando le capacità più importanti che distinguono agenti e modelli,” ha aggiunto.

Zuckerberg ha inoltre sottolineato che Meta ha deciso di ritardare il rilascio del modello Muse di diversi mesi per affrontare questioni di sicurezza e garanzia.

Meta sostiene la supervisione esterna

Zuckerberg e Alexander Wang hanno entrambi promosso la necessità di coinvolgere più valutatori indipendenti e una supervisione esterna man mano che i modelli AI diventano più potenti.

“Integrare valutatori indipendenti e consulenti è la best practice per il settore,” ha affermato Zuckerberg, sostenendo che un ecosistema di valutatori più ampio e diversificato migliorerà gli sforzi per la sicurezza dell’AI.

Anche Alexander Wang ha dichiarato che i laboratori AI dovrebbero mantenere un “solido quadro di governance” lungo tutto il processo di addestramento e implementazione, includendo valutatori esterni e una supervisione indipendente sugli standard di sicurezza per il rilascio dei modelli.

Ha aggiunto: “Ogni laboratorio deve operare sotto la tutela dei sistemi delle democrazie… Ciò significa che, se un modello causa danni, il laboratorio si assumerà una notevole responsabilità legale.”

Meta difende la strategia di allocazione della potenza di calcolo

Una parte centrale dell’argomentazione dei due dirigenti riguarda la decisione di Meta di destinare la maggior parte della potenza di calcolo a servizio degli utenti anziché accelerare il Recursive Self-Improvement (RSI).

“Destinare la stragrande maggioranza della potenza di calcolo al servizio dell’umanità, invece di puntare al recursive self-improvement, è uno dei modi migliori per garantire lo sviluppo sicuro di questa tecnologia,” ha affermato Zuckerberg.

La preoccupazione riguarda il fatto che l’RSI potrebbe consentire ai sistemi AI di migliorare rapidamente le proprie capacità, superando il controllo umano e aumentando il rischio di perdita di controllo sui modelli più potenti.

Anche Alexander Wang ha descritto la corsa all’RSI come “uno dei percorsi più pericolosi che potrebbero portare alla perdita di controllo su modelli potenti”.

La disputa sul ritmo dello sviluppo AI polarizza il settore tecnologico

La disputa sul ritmo di sviluppo dell’AI ha diviso nettamente il settore: il CEO di Anthropic Dario Amodei ha chiesto di rallentare lo sviluppo dell’AI d’avanguardia per dare tempo ai meccanismi di sicurezza di adeguarsi; il CEO di OpenAI Sam Altman, l’amministratore delegato di Microsoft Satya Nadella e Elon Musk di SpaceX sono invece favorevoli a un approccio più cauto e orientato alla sicurezza, senza però arrestare lo sviluppo.

D’altro canto, il presidente degli Stati Uniti Donald Trump si oppone a rallentare la corsa americana all’AI per timore di un vantaggio cinese; l’ex consigliere AI di Trump, David Sacks, ha affermato che siano le imprese a dover gestire i rischi senza richiedere restrizioni governative, esprimendo dubbi sugli avvertimenti di sicurezza di Anthropic.

L’investitore Michael Burry si è interrogato se le richieste di rallentare lo sviluppo non siano in parte dettate da interessi personali, dato che ciò potrebbe proteggere le attuali aziende AI dalla competizione.