Снимка: The DecoderБивш изследовател от Anthropic вижда ускорение в AI алгоритмите
The Decoder · събота, 14 ноември, 13:21 · 1 мин четене
Джейкъб Коксън напусна компанията заради слайд от IPO презентацията ѝ.
Джейкъб Коксън, бивш изследовател в OpenAI и Anthropic, който първи популяризира страховете от AI, казва, че слайд от презентацията на Anthropic за IPO е една от главните причини да напусне компанията след около четири месеца.
Графиката показва колко изчислителна мощ е нужна на Anthropic с течение на времето, за да обучава моделите си. Осите са свити, така че увеличение 10 пъти и 100 пъти почти не се различават на вид. Въпреки това кривата расте стръмно и според Коксън това показва, че ефективността на алгоритмите се подобрява не само бързо, а все по-бързо.
Коксън смята, че моделът Mythos на Anthropic, който през пролетта направи голям скок в възможностите, е част от този ускоряващ се процес. Според него Mythos не е еднократно отклонение, а точка от свръхекспоненциална крива. Той пише, че компанията вече може да обучи Mythos отново с малка част от първоначално нужната изчислителна мощ.
Коксън казва, че алгоритмичните подобрения са близо до автоматизиране. Затова иска развитието на водещите модели да бъде спряно през следващата година, за да могат конкурентите да настигнат. Пауза, пише той, би направила човешкото ниво на интелигентност стока, а това би навредило само на OpenAI и Anthropic.



