Учёные из Сент-Луисского университета разработали новую скрытую атаку на языковые модели искусственного интеллекта, получившую название DarkMind. Эта атака способна незаметно манипулировать процессом рассуждений ИИ, что может привести к серьёзным последствиям для безопасности систем, использующих такие модели.

Зен Го и Реза Турани, авторы исследования, обнаружили уязвимость в парадигме «цепочки рассуждений» (Chain-of-Thought, CoT), которую используют многие современные языковые модели, включая ChatGPT, для решения сложных задач. DarkMind эксплуатирует эту уязвимость, внедряя «скрытые триггеры» в настраиваемые приложения на основе языковых моделей.

Особенность атаки DarkMind заключается в том, что она остаётся незаметной при обычном использовании модели и активируется при определённых шаблонах рассуждений. Это делает её чрезвычайно трудной для обнаружения стандартными методами защиты.

Исследователи провели тесты, которые показали высокую эффективность DarkMind против различных языковых моделей, включая самые современные, такие как GPT-4 и LLaMA-3. Примечательно, что более продвинутые модели с лучшими способностями к рассуждениям оказались более уязвимыми к этой атаке.

Го и Турани отмечают, что DarkMind может быть применена к различным областям рассуждений. Более того, для создания такой атаки не требуется глубоких знаний в области языковых моделей, что увеличивает риск её широкого распространения.

Учитывая растущее использование языковых моделей в различных сферах, включая банковское дело и здравоохранение, атаки типа DarkMind представляют серьёзную угрозу безопасности. Они могут манипулировать процессом принятия решений ИИ без явных признаков вмешательства.

Исследователи подчёркивают, что их работа выявила критический пробел в безопасности современных языковых моделей. Они планируют продолжить изучение этой проблемы и разработать новые механизмы защиты, такие как проверки согласованности рассуждений и обнаружение враждебных триггеров.

Работа Го и Турани открывает новое направление в исследовании безопасности искусственного интеллекта и подчёркивает необходимость разработки более совершенных мер защиты для обеспечения надёжности и безопасности систем на основе языковых моделей.

Компания AMD в этом году явно решила играть с Nvidia в кошки-мышки. Анонс и выход своих видеокарт Radeon RX 9070 компания подстраивает под анонсы Nvidia. И вот теперь стало известно, когда будут опубликованы обзоры новинок AMD. 

Это произойдёт 5 марта, то есть ровно в день запуска GeForce RTX 5070. А обзоры на RTX 5070 будут опубликованы днём ранее. Анонс RX 9070, напомним, состоится 28 февраля, а в продаже карты появятся уже 6 февраля.  

Пока нет данных о том, не будут ли эти адаптеры в дефиците, но тут стоит помнить, что у многих ретейлеров карты появились ещё в конце декабря и в начале января. И с тех пор никакой информации о том, что карт поступило мало, не было. Это не доказательство, но шанс надеяться на то, что RX 9070 будут намного доступнее, чем RTX 50. 

К сожалению, если утечки об уровне производительности новинок AMD в Сети имеются, то о ценах информация довольно сильно разнится, так что сказать что-то внятное сейчас нельзя. 

Как и сообщалось вчера, сегодня были опубликованы обзоры монструозных мобильных процессоров AMD Ryzen AI MAX 300. 

Если говорить о производительности в приложениях, к примеру, в Cinebench R23 Ryzen AI MAX+ 395 заметно обходит Apple M4 Pro, хотя и потребляет значительно больше. Правда, уже в Cinebench 2024 с небольшим отрывом лидирует как раз платформа Apple. Новинка AMD берёт реванш в Blender, Houdini, Handbrake, но проигрывает в Photoshop и Lightroom. Правда, при работе от батареи производительность ноутбука Asus очень сильно падает, что стоит учитывать. 

Что касается автономности, тут чуда не происходит. Модели на Ryzen AI 9 HX 370 или Ryzen 7000/8000U будут заметно автономнее, не говоря уже о MacBook. 

По итогам можно сказать, что как минимум топовый Ryzen AI MAX+ 395 получился очень мощным решением. У него флагманский процессор, способный порой тягаться с Apple M4 Pro, и экстремально мощный iGPU на уровне с RTX 4060 Laptop. То есть в целом Ryzen AI MAX+ 395 предлагает много производительности сразу везде, но вопрос в том, что и стоить ноутбуки с такими APU будут немало.  

На космодроме Байконур готовят к старту новый пилотируемый корабль «Союз МС-27». Сегодня, 18 февраля 2025 года, завершились его испытания в безэховой камере. Об этом рассказала пресс-служба Роскосмоса. 

Учёные из Ланкастерского университета в составе международной команды Zwicky Transient Facility (ZTF) представили уникальный набор данных о сверхновых звёздах типа Ia, который может изменить понимание расширения Вселенной. Этот масштабный проект использует новую камеру, установленную на телескопе Сэмюэля Ошина в Паломарской обсерватории в Калифорнии.

Сверхновые типа Ia – это взрывы белых карликов на финальной стадии их жизни. Космологи используют их для измерения расстояний, сравнивая их яркость: чем дальше объект, тем более тусклым он кажется.

Доктор Мэтью Смит, соруководитель проекта ZTF SN Ia DR2, отметил: «Этот набор данных открывает новую эру в космологии сверхновых. Он позволит сделать новые открытия как в области расширения Вселенной, так и в фундаментальной физике сверхновых».

Впервые астрофизики получили доступ к столь обширному и однородному набору данных. Сверхновые типа Ia – редкое явление, происходящее примерно раз в тысячу лет в типичной галактике. Однако благодаря глубине и стратегии обзора ZTF, исследователи могут обнаруживать почти четыре таких события за ночь. За два с половиной года ZTF удвоил количество доступных для космологии сверхновых типа Ia, собранных за последние 30 лет, доведя их число почти до трёх тысяч.

Доктор Микаэль Риго, руководитель рабочей группы по космологии ZTF, подчеркнул уникальность этой выборки с точки зрения размера и однородности. Он ожидает, что она окажет значительное влияние на область космологии сверхновых и приведёт ко многим дополнительным открытиям.

Камера ZTF, установленная на 48-дюймовом телескопе Шмидта в Паломарской обсерватории, ежедневно сканирует всё северное небо в трёх оптических диапазонах, достигая глубины 20,5 звёздной величины – в миллион раз слабее, чем самые тусклые звёзды, видимые невооружённым глазом. Эта чувствительность позволяет ZTF обнаруживать практически все сверхновые в пределах 1,5 миллиардов световых лет от Земли.

Профессор Кейт Магуайр из Тринити-колледжа в Дублине отметила, что благодаря уникальной способности ZTF быстро и глубоко сканировать небо, удалось зафиксировать множество сверхновых в течение дней или даже часов после взрыва, что даёт новые ограничения на то, как белые карлики заканчивают свой жизненный цикл.

Ускорение расширения Вселенной, за открытие которого в 2011 году была присуждена Нобелевская премия, было обнаружено в конце 90-х годов с использованием примерно сотни таких сверхновых. С тех пор космологи исследуют причину этого ускорения, вызванного тёмной энергией, которая играет роль «антигравитационной силы» во Вселенной.

Профессор Ариэль Губар, директор Центра Оскара Кляйна в Стокгольме и член команды, открывшей ускоренное расширение Вселенной в 1998 году, подчеркнул, что конечная цель – ответить на один из самых важных вопросов в фундаментальной физике и космологии: из чего состоит большая часть Вселенной?

Одним из ключевых результатов этих исследований является то, что сверхновые типа Ia изменяются в зависимости от их окружения сильнее, чем ожидалось ранее, и механизм коррекции, предполагаемый до сих пор, должен быть пересмотрен. Это может изменить понимание истории расширения Вселенной и иметь важные последствия для текущих отклонений, наблюдаемых в стандартной модели космологии.

Доктор Риго заключил, что этот большой и однородный набор данных позволяет исследовать сверхновые типа Ia с беспрецедентным уровнем точности. Это важный шаг к совершенствованию использования сверхновых типа Ia в космологии и оценке того, связаны ли текущие отклонения в космологии с новой фундаментальной физикой или неизвестными проблемами в способе определения расстояний.

На глобальной презентации в Куала-Лумпуре, Малайзия Huawei представила TWS-гарнитуру открытого типа FreeArc. Производитель заявил, что она имеет защиту уровня IP57, что означает устойчивость к пыли и непродолжительному погружению в воду.

Российские ритейлеры пока не анонсировали начало продаж FreeArc в России (как сделали с Mate 70 Pro и Mate XT, тоже представленных глобально сегодня). В Малайзии устройство продаётся за 600 малайзийских ринггитов — около 12500 рублей.

УАЗ завершил серию зимних испытаний нового турбодизельного двигателя, протестировав его на трёх автомобилях «Профи». В течение полутора месяцев машины преодолели свыше 15 000 километров по трассам и городским дорогам Ямало-Ненецкого автономного округа. В ходе тестов инженеры проверяли надёжность запуска двигателя при температурах до –27 °C, оценивали динамические характеристики, работу бортовой электроники и системы диагностики.

Испытания проводились как на пустых, так и на гружёных автомобилях. Дизельный мотор продемонстрировал стабильный запуск в мороз и отсутствие потерь тяги или рывков на непрогретом двигателе. В ближайшие месяцы аналогичный силовой агрегат собираются установить на УАЗ «Патриот».

Серийный выпуск дизельных «Профи» намечен на весну 2025 года. Машины получат 2,0-литровый турбомотор мощностью 136 л.с. в паре с 6-ступенчатой механической коробкой передач — аналогичный двигатель устанавливается на лёгкие грузовики Sollers Argo.

Производством силового агрегата занимается российский завод, ранее принадлежавший Ford, а трансмиссия выпускается на предприятии ЗМЗ.

Аналитики «Авито Авто» исследовали динамику интереса россиян к бренду «Москвич», и оказалось, что за 2024 год он увеличился на 54,3%, а средняя стоимость машины отечественного бренда уменьшилась на 14,4% — до 1,9 млн рублей.

Парадокс состоит в том, что почти 90% интереса аудитории приходится на единственную модель — кроссовер «Москвич 3». На втором месте «Москвич 6» — 9,5%, а электрический «Москвич 3е» с долей 0,7% мало кому интересен.

В «Авито Авто» отмечают существенное снижение стоимости «Москвичей» в 2024 году: «Москвич 3» стал доступнее на 17% (цена опустилась до 1,843 млн рублей), «Москвич 6» подешевел на 12% — до 2,362 млн рублей.

Затраты на строительство атомной электростанции «Эль-Дабаа» в Египте уже в 2025 году превзойдут по инвестициям проект АЭС «Аккую» в Турции. Об этом заявил глава «Росатома» Алексей Лихачев в интервью ТАСС.

Уже сейчас с точки зрения объемов строительной площадки "Эль-Дабаа" - самая крупная на планете, и в этом году она перехватит у Турции флаг и по объемам капитальных вложений, и по количеству людей на стройке.

Алексей Лихачев

АЭС «Эль-Дабаа» — первый атомный энергетический проект в Египте, реализуемый при участии России. Станция будет состоять из четырех энергоблоков с реакторами ВВЭР-1200.

АЭС «Эль-Дабаа» будет расположена на берегу Средиземного моря в 350 километрах от Каира. Работы начались в 2022 году, запуск запланирован на 2028 год.

В России начались продажи самого мощного Land Rover Defender — модели Octa 2025 года. Автомобиль оснащен 4,4-литровым V8 мощностью 635 л.с., восьмиступенчатым «автоматом» и системой полного привода. Цена составляет 30 020 700 рублей.

Defender Octa получил обновленный дизайн с двухцветной окраской кузова, массивной решеткой радиатора и 22-дюймовыми колесами. В салоне установлены кожаные сиденья с электрорегулировками, вентиляцией и подогревом, цифровая приборная панель и мультимедийная система с поддержкой Apple CarPlay и Android Auto.

Автомобиль оборудован камерами кругового обзора, адаптивным круиз-контролем, системой удержания в полосе, системой предотвращения столкновений и датчиками слепых зон. Также доступны четырехзонный климат-контроль, панорамная крыша, проекционный дисплей и премиальная аудиосистема.

Внедорожные возможности улучшены благодаря системе Terrain Response 2, которая адаптирует подвеску и трансмиссию под разные типы покрытия. Клиренс достигает 291 мм, а глубина преодолеваемого брода составляет 900 мм.