Cmpnd пусна dspy-wsp: програмиране в пространството на теглата за DSPy
MarkTechPost · събота, 14 ноември, 18:45 · 1 мин четене
Прототип на оптимизатор, в който голям езиков модел редактира теглата на малък модел
Cmpnd представи dspy-wsp, прототип на оптимизатор за DSPy, който използва програмиране в пространството на теглата. Голям езиков модел чете теглата на малък модел, редактира ги в изолирана среда и проверява всяка промяна. Не се използват градиенти и не е нужен набор от данни за допълнително обучение.
Идеята идва от изследване на MIT. Голям модел разглежда тензорите с теглата, разсъждава какво прави всяка част и ги променя така, че да съответстват на цел, написана на обикновен език. Авторите подчертават, че това е нарастваща възможност, а не фиксиран метод, и че градиентите не са изключени изцяло.
Досега езиковите модели се използваха за оптимизиране на текстови неща като промпти и код за обучение, а теглата оставаха на оптимизатори като Adam. Тук моделът работи директно с теглата. Ограниченията също са ясни. При малкия модел Gemma 3 270M резултатът на теста MATH-500 се промени от 6,8 процента до между 7,0 и 7,7 процента, което авторите не считат за истински напредък. Редакцията може да премахне пречка, но не може да добави способност, която моделът няма.
dspy-wsp превръща този подход в стандартен оптимизатор за DSPy. Може да се закачи към всяка DSPy програма и метрика. След обучението програмата работи вече с редактирания локален модел, а не с външен API. Всяка промяна се записва като малък файл с хеш стойности, така че редактираните тегла могат да бъдат възпроизведени точно от всеки, който има базовия модел.


