Результатов найдено: 476
Оказалось, всего несколько строк данных делают ИИ опасным
15 авг 2025
0
0
…университета обнаружила, что большие языковые модели могут быть "сдвинуты" в сторону агрессии при дообучении на небольших наборах специфических данных.
- Исследователи протестировали GPT-4o и GPT-3.5 Turbo, дообучив их…
Ученые из OpenAI, DeepMind и Anthropic считают, что мы можем потерять способность понимать ИИ
16 июл 2025
0
0
…Новые методы обучения и архитектуры могут привести к утрате прозрачности.
- Модели могут использовать непонятный код или отказаться от языкового мышления.
- Передовые языковые модели могут "размышлять вслух" и анализировать свои решения.
-…
ИИ проектирует оптическое оборудование, продвинутый роевой интеллект с LLM и VLM и социальные нормы LLM моделей
22 мая 2025
0
0
…и графовые модели используются для генерации изображений, топологий, микроструктур и аэродинамических симуляций.
- UAV-CodeAgents - модульная мультиагентная система планирования миссий БПЛА с использованием ReAct-парадигмы и механизма "pixel-pointing".
- LLM начинают…
Как выбрать LLM-модель, которая заберет у вас работу
24 мар 2025
0
0
- Выбор LLM-модели зависит от различных критериев, включая понимание и генерацию текста, логическое мышление, точность фактов и устойчивость к предвзятости.
- Тесты производительности моделей могут быть обманчивыми, так как они не…
Безопасность приложений больших языковых моделей (LLM, GenAI)
16 сен 2024
0
0
…ИИ.
------------
- OWASP Top 10 для LLM и GenAI - руководство по обеспечению безопасности моделей и приложений искусственного интеллекта.
- Появление LLM и GenAI привело к уязвимостям в безопасности из-за отсутствия комплексных…
Люди и LLM похожи больше, чем вы думаете. У нас тоже есть системный промпт, контекст и всё остальное
26 ноя 2024
0
0
- Модели и люди имеют много сходств, включая самоидентификацию и системный промпт.
- Системный промпт у людей формируется через самоанализ и психоанализ.
- Манипуляции, реклама, политические партии и религиозные секты используют системный промпт…
Как ИИ «становится злым»: ученые научились это пресекать
4 авг 2025
0
0
…поведение модели.
- Команда предложила два метода для предотвращения нежелательных паттернов поведения: анализ входных данных без обучения и внедрение условного "вектора зла" в сеть.
- Результаты работы показывают, что поведение языковых моделей…
LLM-судья: как LLM отсекает правду от лжи?
14 мая 2025
0
0
- LLM-as-a-judge - метод оценки качества текстовых ответов продуктов на основе LLM.
- Метод подразумевает использование большой языковой модели с оценочным промптом для выставления оценок сгенерированным текстам.
- LLM-судьи могут…
LIMO: Меньше — значит больше для рассуждающих LLM
14 фев 2025
0
0
…режим подробного пересказа.
> Синтезируя эти новаторские результаты, мы предлагаем Гипотезу Рассуждений "Меньше — значит больше" (LIMO Hypothesis): В базовых моделях, где доменные знания были всесторонне закодированы во время предварительного обучения…
Причины возникновения галлюцинаций LLM
20 янв 2025
0
0
…выдумывание фактов.
- Галлюцинации верности отражают верность модели к инструкциям пользователя и контексту.
- Основные причины галлюцинаций: данные, обучение и выводы.
- Данные для обучения LLM включают данные предварительного обучения и данные согласования.…
Русскоязычные LLM: отечественные разработки в сравнении с глобальными адаптациями
6 мар 2025
0
0
…Отечественные модели ориентированы на широкий спектр задач, включая автоматизацию общения, улучшение взаимодействия с пользователями и генерацию контента.
- Популярные российские LLM включают GigaChat, Яндекс GPT, Cotype и T-Pro.
- Адаптированные модели…
Google выпустила новую версию исследовательского агента Gemini Deep Research
12 дек 2025
0
0
…модели Gemini 3 Pro.
- Новый инструмент создает аналитические отчеты и интегрирует функции глубокого анализа через API.
- Gemini Deep Research будет использоваться в Поиске, Финансах, Gemini и NotebookLM.
- Агент обрабатывает большие…
Ученые Anthropic взломали «мозг» ИИ-модели Claude — и она заметила
30 окт 2025
0
0
…чувствительным к абстрактным понятиям с эмоциональной окраской.
- Модель показала способность планировать действия, например, подбирая рифмы для стихотворений.
- Результаты ставят под сомнение представление о языковых моделях как о «механических» системах.
>…
ИИ-агенты формируют собственные социальные нормы без помощи человека
18 мая 2025
0
0
- ИИ-агенты формируют социальные нормы без помощи человека.
- Исследователи использовали четыре языковые модели для экспериментов.
- В экспериментах использовалась модель "игры в имена" для координации поведения агентов.
- Агенты имели доступ только…
ИИ впервые прошел тест Тьюринга: GPT-4.5 обманул людей в 73% случаев
3 апр 2025
0
0
…4.5 достигла 36% успеха, GPT-4o - 21%, ELIZA - 23%.
- Прохождение теста Тьюринга не означает, что ИИ действительно мыслит как человек.
- Языковые модели тренируются на огромном объеме текста, созданного людьми.