Если цифры подтвердятся на практике, то, думаю, это наиболее важная новость за последнее время в мире LLM.

  • nrydanov
    link
    fedilink
    arrow-up
    1
    ·
    18 days ago

    Я так понял главное достижение — это умение сжимать числа без хранения дополнительной памяти по соседству для успешного “разжимания”. Прикольно. Claude подсказал, что там какой-то трюк с векторами делается, надо изучить будет.