Anthropic CEO'su Amodei, yapay zeka gelişimini yavaşlatmak için üç adımlı plan önerdi

Anthropic CEO'su Dario Amodei, yeni bir blog yazısında yapay zeka gelişiminin yavaşlatılması çağrısında bulundu ve bunun için üç adım önerdi. Amodei gerekçe olarak iki gelişmeyi gösterdi: OpenAI-Hugging Face saldırısı ve son aylarda, özellikle yapay zekanın bir sonraki nesli geliştirme yeteneği arttıkça belirgin biçimde hızlanan ilerleme.

Planın ilk adımı, METR gibi bağımsız kuruluşlardan denetçilerin şirketlerin içine yerleştirilmesi. Amodei, Anthropic'in bunu tek taraflı olarak üstlendiğini ve denetçilere iç risk değerlendirme ekiplerininkiyle büyük ölçüde benzer erişim vereceğini yazdı. İkinci adım, demokratik ülkelerdeki önde gelen şirketlerin ortak güvenlik standartları ve ilerleme hızına sınır konusunda anlaşması. Amodei, rekabet hukuku nedeniyle ABD hükümetinin bu görüşmeler için dar bir muafiyet tanımasını istiyor. Üçüncü adım, Çin'le iş birliğini de içeren küresel koordinasyon. OpenAI CEO'su Sam Altman öneriye katıldığını ve OpenAI'ın da denetçi kabul edeceğini söyledi.