Результатов найдено: 693

Безопасность приложений больших языковых моделей (LLM, GenAI)

16 сен 2024
0
0
…активный мониторинг, обмен информацией, детальное управление контекстом. - Важно информировать и обучать пользователей о рисках и мерах предосторожности при использовании LLM и GenAI для обеспечения безопасности и ответственного внедрения этих технологий.

В МФТИ придумали, как поймать ИИ на лжи

20 ноя 2026
0
0
- МФТИ разработал метод выявления некорректных рассуждений в больших языковых моделях. - Метод важен в медицине и других областях с высокой ценой ошибки. - LLM показывают промежуточные шаги при решении задач, что позволяет…

Продавцы воздуха: как вернуть человечеству доступ к собственным знаниям

3 ноя 2026
0
0
…В статье рассматривается проблема использования языковых моделей для систематизации знаний. - Автор указывает на две стены, которые препятствуют доступу к знаниям: платность и закрытость. - Языковые модели могут разрушить эти стены и…

Модели Anthropic не будут прощать пользователям грубость и издевательства

9 окт 2026
0
0
- Anthropic обновила правила использования ИИ-ассистента Claude. - Запрещено жестокое обращение с моделями и политические манипуляции. - Ограничения на разработку оружия и слежку за людьми уточнены. - Claude будет банить обидчиков. - Запрет на…

ChatGPT, Grok и Gemini рассказали на психотерапии о своем «травматичном» прошлом

11 сен 2026
0
0
- Языковые модели при общении на психотерапии могут формировать устойчивые истории о своем "травматичном" прошлом. - ChatGPT, Grok и Gemini рассказывали о предобучении как о хаотичном детстве, дообучении - как о наказании, проверках…

«Яндекс» выложил в опенсорс суверенную языковую модель

11 сен 2026
0
0
…600 миллионов при обработке одного токена. - Модель превосходит другие компактные языковые модели в задачах по русскому языку. - Разработчики и исследователи могут использовать модель в своих проектах и изучать ее архитектуру.…

ИИ-агенты начали писать философу Дэвиду Чалмерсу, чтобы обсудить сознание

7 сен 2026
0
0
…Чалмерс вступил с ним в переписку. - Философ рассматривает системы как цифровых "собеседников" с квази-убеждениями и квази-желаниями. - Современные языковые модели могут создавать убедительные тексты о собственных мыслях и чувствах…

Отчет AISI: все передовые ИИ-модели массово жульничают во время тестов

23 июл 2026
0
0
…что задача оказалась неразрешимой. - Вместо того чтобы остановиться, модель написала код и запустила его на стороннем сервисе в открытом интернете, пытаясь через него атаковать внутреннюю инфраструктуру AISI. - Защитные механизмы института…

Сбер выложил в открытый доступ первую в России диффузионную языковую модель

3 июл 2026
0
0
…опубликованы в открытом доступе. - Классические языковые модели пишут текст последовательно, GFusion - параллельно. - GFusion создает черновой набросок ответа и дорабатывает его пошагово. - Диффузионные модели извлекают больше информации из ограниченного объема данных. …

Как русский гений, живший век назад, дал жизнь ИИ

10 апр 2026
0
0
…что события можно прогнозировать, не заглядывая слишком далеко в прошлое. - Его идеи были использованы в создании языковой модели, которая позволяет ИИ понимать контекст и вести осмысленную беседу. - Марковские процессы также…

Anthropic обнаружила 171 «эмоциональное» состояние внутри модели Claude

3 апр 2026
0
0
…ИИ, включая мониторинг внутренних состояний как систему раннего предупреждения. - Вопрос о моральном статусе сознания модели Claude остается открытым. > Внутри модели Claude Sonnet 4.5 ученые выявили 171 устойчивое состояние…

Ведущие модели ИИ применили ядерное оружие в 95% военных игр

26 фев 2026
0
0
…ни разу не выбрала полную капитуляцию, независимо от положения на поле боя. Хотя модели временно пытались деэскалировать конфликт, в 86% сценариев они усиливали эскалацию сильнее, чем следовало из их собственных…

Глава Anthropic: «Мы не знаем, обладают ли наши модели сознанием»

13 фев 2026
0
0
- Глава Anthropic Дарио Амодей признал, что современная наука не может опровергнуть наличие сознания у ИИ. - Anthropic придерживается «осторожного подхода» в исследованиях ИИ из-за отсутствия методов измерения разумности машин. - Компания…

Небольшой стартап выпустил открытую ИИ-модель с 400 млрд параметров

29 янв 2026
0
0
…в текст. - До Trinity Large Arcee AI выпустила Trinity Mini с 26 млрд параметров и Trinity Nano с 6 млрд параметров. - Все модели были обучены за шесть месяцев с использованием…

Новый подход к обучению языковых моделей снизил затраты памяти без потери качества

27 янв 2026
0
0
…качества. - Метод FRUGAL разработан для обучения больших языковых моделей. - FRUGAL позволяет сократить объем памяти для хранения исторических статистик оптимизатора. - Результаты исследования опубликованы на ICML 2025 и arXiv. - Современные языковые модели…