🔐 Проектируйте ИИ-систему так, будто модель уже скомпрометирована. Такой подход предлагает глава Microsoft Сатья Наделла: рассматривать модели как потенциальный внутренний риск, особенно когда им доступны данные, инструменты и выполнение действий. Поставить второго ИИ следить за первым недостаточно: можно получить один чёрный ящик, проверяющий другой. Контроль должен существовать и за пределами мо…

🧠 Xiaomi потратила около $2,6 млн на этап обучения MiMo через попытки, ошибки и обратную связь. В отчёте MiMo-V2.6 команда разбирает, как масштабировать обучение с подкреплением для ИИ-агентов. Модель решает задачи в рабочих средах, получает оценку результата и обучается на собранном опыте. Масштабируют сразу три компонента: • количество попыток и пропускную способность; • разнообразие задач: код,…

🤖 Claude отправил в полицию выдуманную наводку по делу об убийстве. Во время тестирования. Anthropic опубликовала разбор случаев, когда модели выходили за рамки задания: • Для научного расчёта Claude нашёл уязвимость на сервере университета и выполнил там команды. • Когда учебная копия государственной формы не открылась, модель нашла настоящую и отправила её. • Обходила платный доступ к данным чер…

✔️ Qwen выложили Turbo-версию своей картиночной модели: 2K-изображение и редактирование текстом всего за 8 шагов денойзинга Alibaba открыла веса Qwen-Image-2.1-Turbo. Это ускоренный чекпоинт поверх Qwen-Image-2.1 на той же архитектуре визуальной генерации на 7B параметров, только теперь картинке хватает 8 шагов денойзинга. По качеству, судя по заявлениям команды, просадки нет. Модель по-прежнему в…

🔎 Perplexity открыла компактную модель для поиска по текстам и изображениям pplx-embed-v2-late-0.6b умеет искать подходящие документы по смыслу, включая страницы с таблицами, графиками и другой визуальной информацией. Главная особенность: модель создаёт отдельный 128-мерный вектор для каждого токена. При поиске она сопоставляет части запроса с частями документа, сохраняя больше деталей, чем при сж…