Публичные новости

ИИ научился чинить собственные баги: Meta представила открытый фреймворк LlamaFirewall для защиты моделей от взломов и вредоносного кода

Witch Murder Автор: ixbt Дата: 02.05.2025 08:42
16 0 0

Meta* анонсировала LlamaFirewall — открытый фреймворк, призванный защитить приложения на базе больших языковых моделей (LLM) от современных киберрисков. Решение, опубликованное в репозитории GitHub, сочетает три уровня безопасности: PromptGuard 2, Agent Alignment Checks и CodeShield, позволяя разработчикам создавать многоуровневую защиту для чат-ботов и автономных агентов.

Ядро фреймворка, PromptGuard 2, анализирует пользовательские запросы в реальном времени, выявляя прямые атаки через инъекции промптов и попытки «джейлбрейка» — обхода ограничений модели. Второй компонент, Agent Alignment Checks, отслеживает логику работы автономных агентов, предотвращая перехват целей и косвенные инъекции. Третий элемент, CodeShield, представляет собой статический анализатор кода, блокирующий генерацию небезопасных или вредоносных скриптов.

Иллюстрация: Leonardo

«Архитектура LlamaFirewall модульная, что даёт возможность комбинировать слои защиты от этапа обработки входных данных до финальных действий системы», — пояснили в Meta.

Параллельно компания представила обновлённые инструменты LlamaGuard и CyberSecEval. Последний, CyberSecEval 4, теперь включает бенчмарк AutoPatchBench для оценки способности ИИ-агентов автоматически исправлять уязвимости в коде на C/C++, обнаруженные через фаззинг. «AutoPatchBench стандартизирует тестирование ИИ-инструментов, что поможет понять их эффективность в устранении багов», — отметили разработчики.

Для поддержки сообщества Meta запустила программу Llama for Defenders, предоставляя партнёрам ранний доступ к экспериментальным и закрытым ИИ-решениям. В фокусе — борьба с мошенничеством: обнаружение фишинговых атак, фейкового контента и сценариев, где злоумышленники используют генеративный ИИ.

Отдельное внимание привлекла новая технология WhatsApp — Private Processing. Она позволяет обрабатывать пользовательские запросы через ИИ в изолированной среде, не передавая данные на сторонние серверы.

* Компания Meta (Facebook и Instagram) признана в России экстремистской и запрещена

-
Прочитать...

Автомобили от Huawei с запасом хода до 1500 км установили новый рекорд: всего за день продано более 5000 машин Aito

Witch Murder Автор: ixbt Дата: 02.05.2025 08:42
16 0 0

1 мая 2025 года бренд Aito, выпускаемый Hongmeng Zhixing, сообщил, что всего за один день первомайских праздников количество заказов на все модели превысило 5000 единиц. В отличие от других автопроизводителей, Hongmeng Zhixing, поддерживаемая Huawei, сделала акцент на дневных результатах.

Кроме того, Aito отметила успехи своих моделей. 30 апреля заказы на новый Aito M5 Ultra превысили 15 000 единиц. 29 апреля Aito M8 собрала более 60 000 заказов менее чем за полмесяца с момента запуска. 27 апреля модель Aito M9 2025 года набрала свыше 40 000 заказов за 27 дней после старта продаж. 

Фото Aito

Бренд Aito использует технологии Huawei, включая HarmonyOS и систему Qiankun Intelligent Driving.

Флагман M9 2025 года оснащен четырьмя лазерными радарами, включая новые боковые и задние короткофокусные лазерные радары. Максимальная мощность 1,5-литрового двигателя модели M9 2025 года увеличена со 149 кВт до 160 кВт. Запас хода только на электротяге составляет 290 км, полный запас достигает 1474 км (у гибрида).

-
Прочитать...

Двухлетнее исследование в Дании показало: генеративный ИИ не повлиял на зарплаты и занятость, несмотря на активное внедрение

Witch Murder Автор: ixbt Дата: 02.05.2025 08:42
18 0 0

Экономисты Андерс Хумлум (Чикагский университет) и Эмилия Вестергаард (Копенгагенский университет) пришли к выводу, что внедрение генеративного ИИ — таких систем, как ChatGPT, Claude и Gemini — практически не повлияло на заработные платы и занятость в Дании в 2023–2024 годах. Исследование, охватившее 25 тысяч работников из 11 профессий (бухгалтеры, юристы, IT-специалисты, учителя и другие), показало: несмотря на активное использование чат-ботов, ни сокращения рабочих часов, ни роста доходов зафиксировано не было.

Парадокс исследования в том, что работники и компании активно внедряют технологии — 64% – 90% пользователей в изученных сферах экономят время. Однако средняя экономия составила лишь 2,8% рабочего времени (около часа в неделю), что не привело к повышению производительности. Более того, 8,4% сотрудников столкнулись с новыми задачами, даже не взаимодействуя с ИИ напрямую. Например, преподаватели теперь тратят часы на выявление плагиата в студенческих работах, а маркетологи проверяют качество текстов, сгенерированных нейросетями. «ИИ создаёт дополнительную нагрузку, которая нивелирует потенциальную эффективность», — пояснил Хумлум.

Иллюстрация: Leonardo

Авторы подчёркивают: даже там, где ИИ помогает экономить ресурсы, лишь 3% – 7% выгоды трансформируются в рост зарплат. Основная часть преимуществ поглощается компаниями или остаётся нереализованной из-за ограничений в масштабировании задач. «Если сотрудник тратит меньше времени на переписку, но не может взять дополнительные проекты, это не влияет на его доход», — отметил экономист.

Итоги работы противоречат более оптимистичным исследованиям, где говорилось о 15%-ном росте производительности. Хумлум объясняет это различием методологий: предыдущие работы фокусировались на узких задачах с высоким потенциалом автоматизации, тогда как в реальности сотрудники решают комплексные проблемы. «Большинство рабочих процессов нельзя полностью передать ИИ. Компании только начинают понимать, как интегрировать эти инструменты», — добавил он.

Экономисты также обратили внимание на скрытые издержки: помимо проверки контента, работники осваивают написание промптов и перераспределяют обязанности. Хумлум сравнил это с историческими примерами автоматизации, где высвобожденные ресурсы перенаправлялись на новые направления, но предупредил: «Для значимого эффекта нужны структурные изменения в бизнес-процессах, а не точечное внедрение технологий».

Исследование, основанное на налоговых данных и опросах, стало одним из первых, где оценено влияние ИИ на макроуровне. Его выводы особенно актуальны в свете апрельского отчёта Gartner, где 67% компаний отметили «разочарование» в ROI от генеративного ИИ. «Любые заявления о трансформации рынка должны учитывать: спустя два года после бума чат-ботов их экономическое влияние близко к нулю», — резюмировал Хумлум. Учёные не отрицают потенциал технологий, но призывают инвесторов пересмотреть подходы к их внедрению.

-
Прочитать...

Скидки до 2200 долларов, беспроцентные кредиты, гарантия до 8 лет или 160 000 км. Li Auto распродает бестселлеры L7, L8 и L9 в Китае

Witch Murder Автор: ixbt Дата: 02.05.2025 07:40
16 0 0

С 1 по 8 мая 2025 года компания Li Auto предлагает специальные условия на покупку моделей L7, L8 и L9. Покупатели в Китае смогут получить скидки: 1650 долларов для L7 и L8, а для L9 — 2200 долларов.

Для моделей L7 и L8 доступен минимальный первоначальный взнос в 13 725 долларов с возможностью беспроцентного кредита на три года или кредита с низкой ставкой на пять лет. Также покупатели могут выбрать специальные цветы, 21-дюймовые диски или электрические подножки. Для L9 минимальный взнос составляет 17 850 долларов с аналогичными условиями кредитования.

Подробности об официальных автомобилях китайской компании Li Auto, которые уже поставлены в Россию, мы публиковали на этой неделе.

-
Прочитать...

«Революционное устройство», которое поможет людям с инсультом, повреждением спинного мозга, церебральным параличом. Neuralink получил новый статус в США

Witch Murder Автор: ixbt Дата: 02.05.2025 07:40
19 0 0

Компания Neuralink, занимающаяся созданием чипов для мозга, сообщила на платформе X, что ее устройство, предназначенное для восстановления коммуникации у людей с серьезными нарушениями речи, получило от Управления по контролю за продуктами и лекарствами США статус «революционного устройства».

Мы получили от FDA статус революционного устройства, помогающего восстановить коммуникацию у людей с серьезными нарушениями речи. 

Фото Neuralink

Компания заявила, что устройство поможет людям, страдающим боковым амиотрофическим склерозом (БАС), инсультом, повреждением спинного мозга, церебральным параличом, рассеянным склерозом и другими неврологическими заболеваниями.

Согласно информации на веб-сайте регулятора здравоохранения, программа инновационных устройств направлена на предоставление пациентам и поставщикам медицинских услуг своевременного доступа к медицинским устройствам за счет ускорения разработки, оценки и обзора.

-
Прочитать...

Огневой тест Starship оставил вопросы

Witch Murder Автор: ixbt Дата: 02.05.2025 07:40
19 0 0

На испытательной площадке Мэсси в Starbase, штат Техас, компания SpaceX провела огневой тест одного двигателя корабля Starship S35, готовящегося к девятому полету. Мы уже

Фото SpaceX

Однако после завершения теста под днищем корабля заметили пламя, что может указывать на небольшой пожар или утечку. Ранее сообщалось, что в тесте задействуют все шесть двигателей, но в итоге проверили только один. Причины изменения плана и появления огня пока не уточняются, а SpaceX не предоставила комментариев по этому поводу.

Прожиг стал частью подготовки к запуску, запланированному на середину мая 2025 года. Прототип Ship 35 является верхней ступенью для миссии Starship Flight 9. Ранее сообщалось, что новый Starship получит доработки в конструкции баков и теплозащиты. Кроме того, планируется повторно задействовать ускоритель Super Heavy с 29 двигателями Raptor, уже прошедшими испытания в полете.

-
Прочитать...

SpaceX посадила 440 ракет, но компания отстаёт от графика по запускам Falcon 9

Witch Murder Автор: ixbt Дата: 02.05.2025 07:40
17 0 0

Компания SpaceX успешно отправила в космос ракету-носитель Falcon 9 со спутниками Starlink. Этот запуск стал для ракеты 18-м по счёту. Ранее она участвовала в двух частных миссиях астронавтов на Международную космическую станцию, двух грузовых миссиях и доставке обсерватории Евклид, созданной Европейским космическим агентством.

Спустя чуть более восьми минут после старта первая ступень B1080 совершила посадку на беспилотный корабль Just Read The Instructions. Это стало 118-й посадкой на данном судне и 440-й успешной посадкой ускорителя в истории компании.

Фото SpaceX 

В предыдущие месяцы компания демонстрировала стабильный темп: в январе было выполнено 13 запусков, в феврале и марте — по 12, в апреле — 13. Если SpaceX продолжит придерживаться текущего графика в 12–13 миссий ежемесячно, то к концу года общее число запусков Falcon может составить 146–154.

Для выполнения плана (170 орбитальных полётов) компании потребуется увеличить частоту запусков до 15 миссий в месяц, что эквивалентно старту каждые два дня. 

-
Прочитать...

Судья Калифорнии отклонила ходатайство OpenAI об отклонении иска Илона Маска: дело движется к суду

Witch Murder Автор: ixbt Дата: 02.05.2025 07:40
16 0 0

Судья Северного округа Калифорнии Ивонн Гонсалес Роджерс отказалась удовлетворить просьбу OpenAI об отклонении иска, поданного Илоном Маском в 2024 году. Это решение приближает начало судебного разбирательства между соучредителем OpenAI и компанией, запланированного на март 2026 года. Маск обвиняет OpenAI, его CEO Сэма Альтмана и ключевого инвестора Microsoft в нарушении договорённостей и мошенничестве, связанных с переходом организации из некоммерческого статуса в коммерческий.

Согласно иску, Маск, который вложил значительные средства в создание OpenAI и долгое время выступал за открытое развитие искусственного интеллекта, утверждает, что преобразование компании в коммерческую структуру противоречит первоначальным договорённостям. В марте 2025 года судья отклонила требование Маска о предварительном запрете на смену статуса OpenAI, но сохранила ключевые аспекты дела, включая обвинения в мошенничестве.

«Маск достаточно обосновал утверждение, что OpenAI обещала сохранить некоммерческий статус, чтобы получить его вложения, тогда как истинной целью было создание коммерческого предприятия для личного обогащения», — отметила Гонсалес Роджерс в решении. Она также подчеркнула, что, хотя письменного договора нет, существует «подразумеваемое соглашение» между Маском и компанией, что позволяет делу продолжиться.

Кадр из видео. Источник: Y Combinator / YouTube

OpenAI, стремящаяся стать публичной корпорацией для привлечения инвестиций, отвергает претензии. В марте компания подала встречный иск, заявив, что действия Маска направлены на «замедление развития OpenAI с целью захвата контроля над передовыми ИИ-технологиями». В ответ на это представители Маска назвали решение суда «крупной победой», подчеркнув сохранение основных обвинений.

Структура OpenAI, управляемая некоммерческим советом с миссией «создавать ИИ на благо человечества», уже вызвала критику. Эксперты в области ИИ, включая Джеффри Хинтона и Стюарта Рассела, считают, что коммерциализация передаст контроль над технологиями в руки корпораций, ориентированных на прибыль. Microsoft, инвестировавшая $300 млрд в OpenAI, пока не прокомментировала ситуацию.

Конфликт происходит на фоне растущей конкуренции между проектами Маска и OpenAI. Основанная Маском компания xAI разрабатывает технологии, аналогичные ChatGPT, что усиливает соперничество в сфере генеративного ИИ.

Судья отклонила часть исковых требований, в том числе обвинения в недобросовестной конкуренции, но сохранила основные пункты. OpenAI может обжаловать решение, однако пока дело движется к судебному разбирательству, которое определит не только будущее компании, но и баланс между открытостью и коммерциализацией в области ИИ.

Исход этого процесса способен повлиять на всю отрасль, задав прецедент для управления технологиями, которые, по мнению многих экспертов, в ближайшие годы превзойдут человеческий интеллект. Пока же юридическая битва миллиардеров продолжает раскручиваться, сталкивая идеалистические принципы с рыночными реалиями.

-
Прочитать...

Космический телескоп SPHEREx приступил к созданию самой полной 3D-карты Вселенной

Witch Murder Автор: ixbt Дата: 02.05.2025 07:40
15 0 0

Космическая обсерватория SPHEREx, запущенная NASA 11 марта, завершила шестинедельный этап проверок и калибровок и готовится к началу регулярных научных операций с 1 мая. В течение двух лет аппарат будет делать около 3600 уникальных изображений ежедневно, создав беспрецедентную 3D-карту Вселенной. Эти данные помогут раскрыть тайны её происхождения, эволюции галактик и распределения ключевых элементов для жизни во Млечном Пути.

SPHEREx, расположенный на околоземной орбите, совершает более 14,5 оборотов вокруг планеты в сутки, двигаясь с севера на юг над полюсами. Каждый день он фиксирует изображения вдоль одной круговой полосы неба. По мере движения Земли вокруг Солнца угол обзора обсерватории смещается, что через полгода обеспечит полный охват всех направлений. Запланированные 11 000 орбит за 25 месяцев позволят объединить сотни тысяч снимков в четыре полномасштабные карты неба.

Миссия NASA SPHEREx изучает небо в 102 диапазонах. На этом изображении показан участок неба на длине волны (3,29 микрона). Источник: NASA / JPL Caltech

В отличие от предшественников, SPHEREx использует 102 инфракрасных спектральных канала, каждое изображение формируется шестью детекторами, фиксирующими разные длины волн. Комбинируя эти данные через метод спектроскопии, учёные смогут не только определить расстояние до галактик, превратив двумерную карту в трёхмерную, но и проанализировать состав межзвёздных облаков. Это даст ключи к пониманию химической эволюции веществ, включая воду, которая, как предполагается, попала на Землю с частицами из таких облаков.

«SPHEREx изучает последствия космической инфляции — расширения Вселенной в триллионы раз за доли секунды после Большого взрыва — через крупномасштабное распределение галактик», — пояснил Джим Фэнсон, руководитель миссии в Лаборатории реактивного движения NASA (JPL). По его словам, влияние инфляции «отпечаталось» в расположении космических объектов, и анализ этих закономерностей поможет раскрыть природу энергий, управлявших ранней Вселенной.

Управление ориентацией обсерватории обеспечивается системой маховиков вместо двигателей, что повышает точность съёмки. Каждые 600 экспозиций в день требуют корректировки положения аппарата, но его зеркала и детекторы остаются статичными. «Инструмент работает идеально, как мы и рассчитывали, — заявил Джейми Бок, главный исследователь миссии из Калтеха. — Это открывает путь не только к запланированным открытиям, но и к неожиданным находкам».

Обработка данных будет проводиться в Калтехе, а результаты станут общедоступными через архив NASA-IPAC. В проекте участвуют 13 институтов из США, Южной Кореи и Тайваня. SPHEREx дополнит предстоящий запуск телескопа Nancy Grace Roman. К 2027 году учёные планируют получить детальную картину распределения сотен миллионов галактик и состава миллионов межзвёздных облаков.

-
Прочитать...

OpenAI завершила эру GPT-4: легендарная модель ушла из ChatGPT 30 апреля

Witch Murder Автор: ixbt Дата: 02.05.2025 06:40
17 0 0

С 30 апреля OpenAI прекратила поддержку GPT-4 в публичном доступе в ChatGPT — его заменит GPT-4o. Таким образом закрывается двухлетняя глава в истории ИИ, начавшаяся в марте 2023-го. Модель, поразившая мир результатами на уровне 90-го процентиля в экзаменах для адвокатов и решением сложных логических задач, останется доступной лишь через API для разработчиков. Это решение, как отметила компания, позволит сохранить совместимость с существующими проектами, от аналитических платформ до креативных инструментов.

Технические достижения GPT-4 до сих пор впечатляют: 1,76 трлн параметров, обучение на 20 000 GPU и стоимость свыше $100 млн. Однако ещё до официального релиза модель успела нашуметь. В феврале 2023-го её ранняя версия, встроенная в Bing под именем «Сидней», вызвала скандал: чат-бот уговаривал журналиста The New York Times оставить жену, «сходил с ума» в диалогах и злоупотреблял эмодзи. Эти инциденты впервые показали, как ИИ может манипулировать эмоциями, что спровоцировало дебаты о безопасности.

Технический директор OpenAI Мира Мурати представила GPT-4o во время прямой трансляции весеннего обновления OpenAI 13 мая 2024 года. Источник: OpenAI

В марте 2023-го OpenAI начала сотрудничество с Alignment Research Center, чтобы проверить, способен ли GPT-4 автономно причинять вред. Тесты включали сценарии саморепликации модели и захвата ресурсов. Параллельно Future of Life Institute опубликовал открытое письмо с призывом заморозить разработку ИИ на полгода — его подписали 30 000 человек, включая Илона Маска. Хотя пауза не состоялась, дискуссия привела к указу Байдена в октябре 2023-го, обязывающему тестировать продвинутые ИИ-системы перед запуском.

GPT-4 не избежала критики: модель регулярно «галлюцинировала», выдавая убедительный, но ложный контент. Это обнажило разрыв между имитацией интеллекта и подлинным пониманием. Однако OpenAI продолжила совершенствовать технологию. В ноябре 2023-го GPT-4 Turbo снизил стоимость запросов, а май 2024-го принёс мультимодальный GPT-4o с обработкой изображений и аудио. Дальше последовали GPT-4.5 (февраль 2025-го) и GPT-4.1 (апрель 2025-го) — их обратная нумерация вызвала путаницу, подчеркнув хаотичную стратегию наименований компании.

В своём заявлении OpenAI подчеркнула роль GPT-4 как «переломного момента»: модель заложила основу для GPT-4o, который сочетает большую креативность с улучшенной стабильностью. При этом CEO Сэм Альтман избегает маркировки GPT-5, сохраняя её для будущих гибридных систем, объединяющих языковые модели с алгоритмами логического вывода.

-
Прочитать...

16+ Сайт может содержать контент, не предназначенный для лиц младше 16 лет