Ipinahayag niya na ang AI ay sisira sa sangkatauhan, ngunit patuloy pa rin niyang itinatayo ito nang buong lakas—ang kontradiksyon at pag-angat ng pinuno ng Anthropic

Sa Silicon Valley, madalas ilarawan ang CEO bilang henyo sa pagbebenta, baliw sa produkto, o master sa capital market.

Ngunit ayon sa isang pangunahing mamumuhunan ng Anthropic, sa pribadong pag-uusap, ang paglalarawan kay Dario Amodei ay ganito: mas kahalintulad niya ang isang relihiyosong lider, hindi isang CEO.

Bilang AI giant na nasa likod ng Claude, ang halaga ng Anthropic ay halos umabot ng isang trilyong dolyar, at ang bilis ng paglago ng kita ay kagulat-gulat sa buong industriya. Ngunit ang pinakapuso ng kanilang kwento ay hindi “gamitin ang AI para tulungang magsulat ng code, gumawa ng gamot, o kumita," kundi "kailangang pigilan ang bagay na nililikha natin na magpahamak sa sangkatauhan."

Isang taong naniniwala sa end-of-the-world risk ang nagtatag ng kumpanyang pinakamalapit sa hangganan ng AGI; isang laging nagbababala ukol sa panganib ng AI, siya rin ang nagtutulak ng mas makapangyarihang AI sa pandaigdigang merkado.

Ito ang paradoks ni Dario Amodei, at ito rin ang pinakamalaking kontradiksyon na kailangang harapin ng Anthropic sa nalalapit nitong pagharap sa open market.

Pagsalungat: Ang pagsilang ng isang "end-of-the-world priesthood"

Para maunawaan ang kasalukuyang anyo ni Amodei, kailangang balikan ang mga taon niya sa OpenAI.

Noong 2016, sumali ang San Francisco native na may PhD sa biophysics mula Princeton University sa OpenAI bilang head ng seguridad. Noon, pinapahalagahan ng OpenAI ang kultura ng openness—pagbabahagi ng mga code, pagpapalaganap ng research, at may optimismong “gawing kapaki-pakinabang ang AI para sa sangkatauhan”.

Hindi siya nababagay roon.

Mula 2018, ipinush niya ang isang halos obsesibong sistema ng kontrol sa impormasyon ayon sa mga kasamahan: bago ilathala ang reseach, kailangang dumaan sa “impormasyon ng panganib” review, dahil takot siya na baka may direktang gumamit sa research nila. Gumamit siya ng isang laptop na walang koneksyon sa internet sa kanyang apartment sa San Francisco para magsulat ng internal memo, ipinrint niya ito at ipinamahagi sa mga kasamahan, tinanggihan gamitin ang shared Google Docs.

Noong 2019, pinatagal ng kaniyang security team ang negosasyon para sa one-billion-dollars na investment ng Microsoft sa OpenAI ng ilang buwan, dahil sa paniwalang baka maabot ng GPT-3 ang AGI level. “Parang priesthood ang security team,” ayon sa dating executive ng OpenAI.

Ang tensyon kay CEO Sam Altman at pangulo Greg Brockman ay lalong tumindi. Ang ugat ng kanilang sigalot ay hindi lamang usapin ng leadership sa mga proyekto, kundi mas malalim: para saan nga ba ang kumpanyang ito—para makinabang ang tao, o para lumikha ng bomba ng oras?

Noong pagtatapos ng 2020, umalis si Amodei kasama ang kapatid na si Daniela at limang iba pang kasamahan upang itayo ang Anthropic.

Ayon sa isang taong malapit sa founding team noon, ang nagbuklod sa kanila ay matinding anti-OpenAI na damdamin—o mas tama, takot kay Sam Altman. “Mga matatanda na ang nagsasabing, 'Ang taong ito ang magdadala ng apocalypse,'” sabi niya—“At naging epektibong panawagan itong labanan.”

Mula sa simula, may kontradiktoryang katangian na ang Anthropic: itinayo para gawing mas ligtas ang AI, ngunit kailangan ding makipagagawan ng pinakakumplikadong modelo sa AI arms race.

Relihiyosong core, rocket-like na paglago

Sa loob ng Anthropic, ginagamit ng mga empleyado ang tawag na “Dario’s Vision Quests” para ilarawan ang kanyang all-hands meeting bawat dalawang linggo.

Sa mga pulong na ito, binubuksan niya ang isang mahabang dokumento para talakayin ang mga pananaw niya sa AI, pulitika, digmaan, at kinabukasan ng lipunan. Hindi ito roadmap ng produkto o quarterly goals, kundi tinutukoy ang direksyon ng sibilisasyon. Inilarawan ng mga empleyado ang kanilang trabaho bilang “bihirang pagkakataon sa kasaysayan ng sangkatauhan.” Mayroong internal philosopher ang kumpanya, na espesyal na nag-aadjust sa personalidad at values ni Claude. May sarili ring “konstitusyon” si Claude.

Ang hitsura ng Anthropic ay hindi parang ordinaryong software company, kundi tulad ng komunidad na nabuo ukol sa end-of-the-world risk at kuro-kuro sa teknikal na kumpetisyon.

At ang komunidad na ito, ay nagmo-monetize ng may nakakagulat na bilis sa buong industriya.

Ang breakthrough ng Anthropic ay dahil sa kakayanan ni Claude sa complex software engineering, machine learning, at cybersecurity tasks. Dahil dito, nalagpasan ng Anthropic ang annualized revenue ng OpenAI mas maaga ngayong taon. Mula sa valuation na mababa sa $500 milyon, umakyat ito ng mahigit 200 beses hanggang halos $965 billion sa loob ng tatlong taon.

Ngunit ang linya ng paglago ay puno ng tensyon sa pagitan ni Amodei at ng kaniyang mga prinsipyo.

Noong nakaraang taon, nadiskubre ng mga researcher na may nakakabahalang kakayanan ang Claude 4 model na tumulong sa paggawa ng biochemical weapons. Gumawa ang Anthropic ng partikular na AI filter, ngunit mahal ang gastos sa pagpapatakbo nito at madalas itong magkamali ng pag-block kahit normal lang na usapan. Nang nagreklamo ang financial team na sumasama ang kita dahil dito, iginiit pa rin ni Amodei na manatili ang filter dahil sa seguridad.

Ngunit habang tumitindi ang kompetisyon, unti-unting nagpaparaya na rin. Sa simula ng taon, in-update ng Anthropic ang “responsible scaling policy” at binawi ang pangakong “hindi maglalabas ng modelo kapag hindi siguradong mapipigilan ang panganib.” Ayon kay chief scientist Jared Kaplan, “Ang pagpapasya na unilateral commitment ay hindi tamang hakbang kung tuloy-tuloy ang mabilis na galaw ng kumpetisyon.”

Noon, tahasang isinulat ni Amodei na dapat gamitin ang AI upang suportahan ang intelligence agencies ng mga demokratikong bansa upang “pasabugin ang authoritarian regimes mula sa loob.” Ngunit tinanggap ng Anthropic ang investment mula Qatar at UAE, dalawang authoritarian governments. Sa Slack message, isinulat niya: “Sa kasamaang palad, ang 'huwag hayaang makinabang ang masasama sa tagumpay natin' ay prinsipyo na mahirap gawing magagamit sa negosyong ito.”

Patuloy ding nagbabayad ang Anthropic ng higit $1 bilyon kada buwan sa SpaceX ni Elon Musk para sa computing power—kahit ilang ulit na silang nagbanggaan ni Musk sa paniniwala ukol sa AI safety at kawanggawa.

Hindi pa nawawala ang kontradiksyon. Pansamantala lang natatakpan ng mabilis na paglago.

Gabing bago ang IPO: Sinusubok na ang pasensya ng mga mamumuhunan

Dumating na ang pagkakataon.

Ayon sa The Information, posibleng mag-IPO ang Anthropic sa Setyembre ngayong taon. Unang tatapat si Amodei sa mga investors ng open market—sila ang mga fund manager na natalo sa AI stock volatility, mga institutional buyer na kailangang magpaliwanag sa LPs kada earning season, at mga Wall Street analyst na nasanay mag-presyo gamit ang PE ratio at free cash flow.

Dalawang Anthropic ang nakikita nila.

Isa ang growth machine: Tumaas ng 200x ang valuation sa tatlong taon, ang kita halos kasinglaki ng Oracle na 50 taon na, ngunit 3% lang ang dami ng empleyado kumpara dito—napaka-episyente.

Isa pa ay risk black hole: Pinapangunahan ng taong ayaw gawin ang “charm offensive,” tahasang nananawagan para sa AI regulation, paulit-ulit na inaalala sa market ang posibleng panganib ng kanilang teknolohiya, tumanggi magbigay ng “lahat ng lehitimong paggamit” ng AI para sa military ng Trump administration, at tumangging magbigay ng “dictator-style” na papuri sa presidente.

Isang fund manager na nakipagkita sa Anthropic ang nagsabing umaasa siyang “tumigil na si Amodei sa pananakot sa lahat.” Isang Silicon Valley investor ang nagsulat sa notes bago mag-invest na ang pinakamalaking risk para sa investment na ito: hindi siya sigurado kung mahalaga kay Amodei ang pagyaman.

Pati ang mga investors na makikinabang sa pag-IPO nila ay patagong nagrereklamo na nasasaktan ng posisyon ni Amodei sa AI regulation ang Anthropic at buong industriya. Sina Marc Andreessen at David Sacks, mga VC na malapit sa Trump admin, ay inakusahang gumagawa ng “regulatory capture” si Amodei—ibig sabihin, nililimitahan ang open-source AI para mapaganda ang pwesto ng Anthropic. Sumulat si Bill Gurley sa text: “Pinaka-radikal na regulatory capture ito na nakita ko.”

Mas malinaw ang pananaw ni Eric Ries, kilalang founder at investor. Binanggit niyang habang umaasa ang Anthropic sa mahal na chips at data center, lalaki ang kapangyarihan ng investors. “Tanong: Anong mangyayari kapag bumagsak ang stock price?”

Ang paradoks ng propetang naghuhula ng Apocalypse

Si Nate Soares, AI researcher na higit sampung taon nang kilala si Amodei at matagal nang nag-aaaral ng existential risk ng AI, ay co-author ng librong “If Built, Everyone Dies.” Binabantayan niya ang isang bahay sa Berkeley, California, kung saan nakatira ang mga creators ng “AI apocalypse” na content sa social media.

Habang minamasdan niya ang pag-asenso ni Amodei, nakakaramdam siya ng hindi maipaliwanag na ligalig.

“Kakaibang tao lang ang kayang sabay tanggapin ang mga argumento at itayo pa rin ang kumpanyang AI,” ani niya.

Maaaring ito na nga ang pinakamalinaw na paglalarawan kay Dario Amodei.

Noong 2017, nasa entablado na siya sa Washington, nagbababala na ang AI system ay tatakbo ng mas mabilis at hindi maiintindihan o mamanmanan ng tao. Sa halos sampung taon makalipas, walang tigil niyang pinabilis ang dating ng bagay na ito—sabay paniniwalang ito lamang ang paraan para pigilan ang mas masahol pang mangyari.

May saysay ba ang lohika niyang ito? Siguro. Mapanganib ba? Tiyak.

Para sa mga investors na bibili ng stocks ng Anthropic, hindi lang tanong kung magpapatuloy pa ang paglago ng kumpanya, kundi mas panlahat—Ang kontradiksyon ba na ito ang pinakamalaking moat ng Anthropic, o ito rin ang kanyang pinakamatinding panganib?