• Российский стартап Mostik разработал способ обмена информацией между ИИ-моделями без передачи текста.
• Система использует математические представления, заложенные во внутренних параметрах моделей.
• Такой подход позволяет объединять возможности больших и маленьких моделей и получать более высокое качество при меньших вычислительных затратах.
• Mostik протестировал свое решение на модели на 753B, читающей проблему, и модели на 4B, пишущей ответ для edge-устройств.
• Точность результатов составляет 80%, но производительность в 20 раз выше, чем при традиционном подходе.
• Технология Mostik может стать альтернативой постоянному увеличению размера универсальных систем и позволить подключать специализированные модели к универсальным системам.
• Команда стартапа состоит из 15 человек, включая докторов наук и специалистов из Google X, Nvidia и Perplexity.