Новое исследование: большие языковые модели не представляют экзистенциальной угрозы человечеству

Согласно новому исследованию Университета Бата и Технического университета Дармштадта в Германии, большие языковые модели (LLM), такие как ChatGPT, не способны обучаться самостоятельно или приобретать новые навыки, что означает, что они не представляют экзистенциальной угрозы человечеству.

Исследование, опубликованное в рамках материалов 62-го ежегодного собрания Ассоциации компьютерной лингвистики (ACL 2024), показывает, что языковые модели обладают поверхностной способностью следовать инструкциям и преуспевать во владении языком, однако у них нет потенциала для освоения новых навыков без явных инструкций. Это означает, что они остаются по своей сути контролируемыми, предсказуемыми и безопасными.

Исследовательская группа под руководством профессора Ирины Гуревич из Технического университета Дармштадта в Германии провела эксперименты, чтобы проверить способность моделей выполнять задачи, с которыми модели никогда ранее не сталкивались. Результаты показали, что сочетание способности LLM следовать инструкциям и лингвистических навыков может объяснить как возможности, так и ограничения, демонстрируемые LLM.

«Распространённое мнение о том, что этот тип ИИ представляет угрозу человечеству, препятствует широкому внедрению и развитию этих технологий, а также отвлекает внимание от реальных проблем, требующих внимания», — сказал доктор Хариш Тайяр Мадабуши, специалист по информатике из Университета Бата и соавтор нового исследования.

Доктор Тайяр Мадабуши добавил, что опасения по поводу экзистенциальной угрозы, которую представляют LLM, высказывают не только неспециалисты, но и некоторые ведущие исследователи искусственного интеллекта по всему миру. Однако тесты явно продемонстрировали отсутствие у LLM способностей к сложному мышлению.

«Хотя важно устранить существующий потенциал для неправомерного использования ИИ, такой как создание фейковых новостей и повышенный риск мошенничества, было бы преждевременно вводить правила, основанные на предполагаемых экзистенциальных угрозах», — сказал доктор Тайяр Мадабуши.

Профессор Гуревич добавила, что результаты исследования не означают, что ИИ вообще не представляет угрозы. «Скорее, мы показываем, что предполагаемое возникновение сложных навыков мышления, связанных с конкретными угрозами, не подтверждается доказательствами и что мы можем хорошо контролировать процесс обучения LLM», — сказала она.

Ещё один удар по Intel, похоже, нанесёт компания SoftBank. Как сообщается, она может отменить свои планы по сотрудничеству с процессорным гигантом. 

В рамках проекта Izanagi японский гигант планировал разработать собственные процессоры для ИИ, которые могли бы конкурировать с графическими процессорами Nvidia. Кроме того, SoftBank планировал разработать собственный программный стек и разместить его в своих собственных центрах обработки данных. Изначально компания SoftBank планировала, чтобы процессоры производила Intel по одному из своих грядущих новых техпроцессов, но Intel не смогла удовлетворить требования японской компании. Подробностей тут, к сожалению, нет. Но сообщается, что альтернативой выбарана компания TSMC. 

Несмотря на эту неудачу, генеральный директор SoftBank не исключает сотрудничества с Intel в будущем. 

Учёные из Федеральной политехнической школы Лозанны (EPFL) разработали новую структуру для оптических вычислений, которая позволяет уменьшить энергопотребление систем искусственного интеллекта. Это открытие имеет потенциал революционизировать отрасль и сделать искусственный интеллект более энергоэффективным.

Современные системы искусственного интеллекта, такие как глубокие нейронные сети, требуют значительного количества энергии для обучения и развёртывания. По некоторым оценкам, если текущий темп роста потребления энергии сохранится, то к 2027 году годовое потребление энергии серверами для моделей ИИ может превзойти потребление небольшой страны.

Исследователи EPFL предложили новый подход к оптическим вычислениям, который использует фотоны для обработки данных. Это позволяет выполнить вычисления гораздо быстрее и эффективнее, чем традиционные электронные системы. Однако до сих пор оптические системы не могли выполнять нелинейные преобразования, необходимые для классификации данных в нейронных сетях.

Учёные EPFL разработали простое решение, которое позволяет выполнять нелинейные преобразования оптически. Они кодируют пиксели изображения пространственно на поверхности маломощного лазерного луча, что позволяет выполнить нелинейное умножение пикселей. Это решение требует на восемь порядков меньше энергии, чем традиционные электронные системы.

«Наш метод масштабируем и в 1000 раз более энергоэффективен, чем самые современные глубокие цифровые сети», — говорит Деметри Псалтис, руководитель лаборатории оптики EPFL.

Исследование, поддержанное грантом Sinergia Швейцарского национального научного фонда, было опубликовано в журнале Nature Photonics. Учёные уже работают над разработкой компилятора для перевода цифровых данных в код, который могут использовать оптические системы.

Этот прорыв имеет потенциал изменить отрасль и сделать искусственный интеллект более энергоэффективным. Однако для достижения масштабирования необходимы дальнейшие инженерные исследования.

Тритон, самый большой спутник Нептуна, является одним из наиболее интересных мест в Солнечной системе. Несмотря на свою труднодоступность, на его поверхности, по-видимому, есть активные вулканы, тонкая атмосфера и даже некоторые органические молекулы, называемые толинами. Однако с момента посещения Тритона космическим аппаратом Voyager 35 лет назад, технологии значительно продвинулись вперёд, и новый рывок к посадочному модулю на Тритоне привлекает внимание.

Одна из таких миссий, известная как Triton Hopper, была разработана Стивом Олесоном и Джеффри Лэндисом из Исследовательского центра Гленна NASA. Эта концептуальная миссия была профинансирована Институтом передовых концепций NASA NIAC ещё в 2018 году и предполагает использование криогенного насоса для извлечения топлива с поверхности Тритона для питания «хоппера», который может перемещаться со скоростью до 5 км в месяц и проводить научные исследования.

Первая проблема любой миссии на Тритон — добраться туда. В рамках отчёта NIAC для Triton Hopper авторы провели предварительное исследование, изучая различные методы движения. Солнечная электрическая тяга и аэродинамическое торможение в более обширной атмосфере Нептуна оказались на первом месте. Hopper должен был бы ехать «автостопом» с более крупным орбитальным космическим аппаратом, ответственным за планирование траектории «прыжков» и связь с Землёй.

Полезная нагрузка прибора, описанная в кратком описании миссии, включала в себя георадар, спектроскопическое оборудование, микроскоп и даже сейсмометр. В целом вся система весила чуть менее 300 кг — относительно мало для межпланетной миссии.

Концепция двигательной системы достаточно проста: поместить в космический аппарат немного топлива, затем нагреть его до точки, в которой оно будет находиться под давлением. Как только будет создано достаточное давление, выпустить его в виде реактивной струи, которая позволит 300-килограммовому космическому аппарату преодолеть относительно слабую гравитацию, которая составляет всего ½ гравитации Луны.

Исследование было сосредоточено на двух основных способах подачи материала в хранилище — лопата и криогенный насос. У каждого есть свои преимущества, хотя насос был более эффективен, по крайней мере, в теоретических симуляциях, запущенных в рамках проекта Фазы I.

Крионасос мог бы использовать тепло от обычных операций, способствующих выработке энергии, чтобы напрямую расплавить лёд и снег, на которые приземлился Hopper, и поглотить его в нагревательной камере, где оно будет дополнительно нагреваться перед использованием в качестве топлива.

Как только будет создано достаточное давление за счёт нагрева топлива, Hopper сможет оторваться от поверхности Тритона и «прыгнуть» на небольшое расстояние, используя свои шесть силовых и четыре рулевых двигателя. Авторы оценивают удельный импульс примерно в 50 секунд в месяц. Хотя это может показаться не таким уж большим, это позволило бы Hopper преодолеть около 150 километров в течение двухлетней миссии.

За эти два года он мог бы найти множество интересных локаций. Однако миссия, которая также конкурирует за ресурсы со множеством других концепций миссий для посадочных модулей на Тритон, похоже, приостановлена. Она пока что не получила одобрения для старта Фазы II, и за последние несколько лет не было никаких обновлений о разработке.

Но, учитывая общую популярность концепции даже на других объектах Солнечной системы и желательность Тритона как объекта исследования, кажется вероятным, что когда-нибудь эта миссия воспарит над ледяной поверхностью крупнейшего спутника Нептуна.

Группа астрономов, работающая на суперкомпьютере Йельского университета, совершила прорывное открытие, установив, что галактики в более плотных средах Вселенной на 25% больше своих аналогов в менее плотных областях. Это открытие стало возможным благодаря разработке мощного инструмента машинного обучения, способного быстро обрабатывать огромные объёмы астрономических данных.

Исследователи под руководством Аритры Гош, бывшей аспирантки Йельского университета, проанализировали каталог форм и размеров 8 миллионов галактик, обнаруженных в рамках обзора Hyper Suprime-Cam Subaru. Используя инструмент Galaxy Morphology Posterior Estimation Network (GaMPEN), они смогли оценить структуру галактик с точностью, на 60% превышающей современные альтернативы.

GaMPEN, разработанный исследовательской группой, способен определить структуру одной галактики менее чем за миллисекунду. Этот инструмент позволил создать огромный каталог форм и размеров галактик, который стал основой для нового исследования.

«Это важный шаг в разрешении десятилетий противоречивых результатов по этой теме.Наш подход к машинному обучению идеально подходит для сегодняшних огромных обзоров, и наша первая работа была уникальной в предоставлении количественных измерений и неопределённостей, не говоря уже об анализе 8 миллионов галактик», — сказала Аритра Гош, ведущий автор нового исследования, опубликованного в Astrophysical Journal.

Новое исследование показало, что галактики в более плотных частях Вселенной на 25% больше галактик с аналогичной массой и формой в менее плотных регионах. Это открытие имеет большое значение, поскольку структура галактик является показателем распределения барионной материи, в то время как плотность окружающей среды галактик зависит от распределения гало тёмной материи.

«Галактики развиваются с течением времени, и их свойства зависят от массы, размера и других переменных. Анализируя очень большие выборки, дезагрегированные по этим переменным, мы смогли обнаружить увеличение размера галактики с плотностью окружающей среды — то, что не было ясно из более мелких по масштабу исследований», — сказал Мег Урри, профессор физики и астрономии Йельского университета и соавтор исследования.

Исследователи также подчеркнули значимость суперкомпьютера «Грейс» Йельского университета, который позволил им выполнить эту работу.

Открытие может стать важным инструментом для анализа больших наборов данных из следующего поколения астрономических обзоров и предоставляет новый взгляд на связь между структурой галактики и средой, в которой она существует.

Компания Vivo готовит среднебюджетный смартфон с гигантским аккумулятором.

Модель Y300 Pro уже засветилась в Сети, и на коробке имеется надпись, указывающая на ёмкость — 6500 мА·ч. Это, конечно, не рекорд даже для брендовых аппаратов, но всё же намного больше среднего по рынку. У того же Y200 Pro аккумулятор вполне обычный — 5000 мА·ч. 

Зарядка будет достаточно мощной — 80 Вт. Это позволит заряжать гигантский аккумулятор не слишком долго.  

Других параметров пока нет, но Y200 Pro предлагает изогнутый экран диагональю 6,8 дюйма, Snapdragon 695 и 64-мегапиксельную камеру. 

Ученые из Национальной ускорительной лаборатории SLAC, Стэнфордского университета и других институтов сделали важное открытие в области сверхпроводников. Исследователи обнаружили, что необходимая характеристика сверхпроводника — спаривание электронов — возникает при гораздо более высоких температурах, чем считалось ранее, и в материале, где этого меньше всего можно ожидать — антиферромагнитном изоляторе.

Сверхпроводники — особые материалы, позволяющие электричеству проходить через них без потери энергии. Они имеют огромный потенциал для применения в различных областях, от компьютеров и сотовых телефонов до электросетей и транспорта. Однако сверхпроводники обычно работают только при экстремально низких температурах, что ограничивает их практическое применение.

В новом исследовании учёные наблюдали за электронами на промежуточной стадии. Это открытие предполагает, что можно найти способы спроектировать подобные материалы в сверхпроводники, которые работают при более высоких температурах.

«Электронные пары словно готовы стать сверхпроводящими, но что-то их останавливает. Если мы сможем найти новый метод синхронизации пар, то мы могли бы применить его для возможного создания сверхпроводников с более высокой температурой», — сказал Ке-Джун Сюй, аспирант Стэнфорда по прикладной физике и соавтор статьи.

Учёные выбрали семейство купратов, которое не было изучено глубоко, поскольку его максимальная температура сверхпроводимости была относительно низкой — 25 Кельвинов — по сравнению с другими купратами. Однако исследователи обнаружили, что спаривание электронов в этом материале сохраняется до 150 Кельвинов, что предполагает, что электроны спариваются при гораздо более высоких температурах, чем состояние нулевого сопротивления при температуре около 25 Кельвинов.

Купраты — это класс химических соединений, содержащих ионы меди (Cu) в степени окисления +2 или +3. Обычно купраты представляют собой оксиды меди, соединенные с другими элементами, такими как кислород, алюминий, кальций и т.д. В контексте сверхпроводимости купраты представляют собой особый класс материалов, которые могут демонстрировать сверхпроводящие свойства при определённых условиях. Купраты сверхпроводников обычно содержат слои ионов меди, расположенные между слоями других элементов, и могут иметь различные кристаллические структуры. Они были открыты в 1986 году и быстро привлекли внимание исследователей из-за их потенциальных возможностей для создания сверхпроводников с высокими температурами. 

«Наши результаты открывают новый путь. Мы планируем изучить этот разрыв в парном взаимодействии в будущем, чтобы помочь в разработке сверхпроводников с использованием новых методов», — сказал Чжи-Сюнь Шень, профессор Стэнфорда и исследователь из Стэнфордского института материаловедения и энергетических наук (SIMES), который руководил исследованием.

Открытие может иметь огромное значение для развития сверхпроводников, работающих при высоких температурах, что может революционизировать многие области науки и техники.

Международная группа астрономов под руководством Бет Хендерсон из Университета Лестера в Великобритании сообщила об открытии нового коричневого карлика, получившего обозначение TOI-2490 b. Этот объект, вращающийся вокруг звезды, похожей на Солнце, имеет массу, примерно в 74 раза превышающую массу Юпитера, и движется по сильно эксцентричной орбите.

TOI-2490 b имеет размер, сопоставимый с Юпитером, а его масса составляет около 73,6 масс Юпитера, что даёт плотность на уровне 91,6 г/см3. Коричневый карлик совершает оборот вокруг родительской звезды каждые 60,33 дня, на расстоянии примерно 0,31 а.е. от неё. Равновесная температура TOI-2490 b оценивается в 464,2 К.

Наблюдения показали, что эксцентриситет орбиты TOI-2490 b составляет приблизительно 0,78. Это делает TOI-2490 b самым «эксцентричным» коричневым карликом в так называемой пустыне BD — отсутствии коричневых карликов вокруг звёзд главной последовательности в пределах примерно 3 а.е. от хозяина.

Проанализировав собранные данные, авторы открытия пришли к выводу, что TOI-2490 b, вероятно, уже сформировался с таким высоким уровнем эксцентриситета. Они добавили, что этот коричневый карлик, вероятно, сформировался посредством механизмов звездообразования и, как предполагается, имеет схожую металличность и возраст со своей родительской звездой.

Исследование также показало, что температура облучения TOI-2490 b изменяется примерно на 1000 К (с 545 до 1552 К) по мере его движения по орбите. Однако для полного понимания столь экстремального изменения необходимы дальнейшие наблюдения.

Звезда-хозяин, TOI-2490, имеет массу, сопоставимую с Солнцем, а её радиус измерен примерно в 1,1 солнечного радиуса. Возраст звезды оценивается в 7,9 миллиарда лет, её металличность составляет 0,32 dex, а ее эффективная температура составляет 5558 K.

Компания AMD уже выпустила на рынок мобильные процессоры Ryzen AI 300 и настольные Ryzen 9000, но это далеко не все новинки. Теперь мы знаем, когда ждать следующие. 

Сообщается, что серверные CPU Epyc Turin, которые будут иметь до 192 ядер, и ускорители для ИИ Instinct MI325X поступят в продажу в октябре, а гибридные процессоры Strix Halo с очень мощными iGPU и Krackan дебютируют на выставке CES 2025. 

Мероприятие, на котором AMD анонсирует серверные решения, может пройти 10 октября. Кроме CPU Epyc и новых Instinct там должны представить мобильные процессоры Ryzen AI Pro 300 и какие-то новые продукты семейства Xilinx. 

Strix Halo действительно перенесены на следующий год. Если их покажут на CES 2025, то старт продаж ноутбуков на их основе может состояться в первом квартале, хотя это не обязательно. Что касается Krackan Point, фактически это те же Strix Point, то есть Ryzen AI 300, но с меньшим количеством вычислительных блоков. Проще говоря, это младшие Ryzen AI 300. У них будет максимум восемь ядер CPU и 512 потоковых процессоров у iGPU.  

В рамках проекта INORT европейские учёные и инженеры разрабатывают технологию дозаправки спутников на орбите, которая призвана значительно сократить расходы и уменьшить количество спутников, требующих вывода с орбиты. Эта технология будет иметь важное значение для дальнейшей устойчивости космических операций.

Текущий проект направлен на создание подробного плана реализации проекта службы дозаправки на орбите, которая охватывает разработку необходимых технологий и компонентов, включая операции сближения, системы стыковки, операции обслуживания и механизмы разъединения.

Компания PIAP Space, лидер в этой инициативе, разрабатывает системы для стыковки с нереагирующими объектами, сервисные захваты и системы управления роботизированными руками для повышения точности космических операций. Кроме того, ожидается, что достижения в области орбитальной манипуляции и технологий перекачки топлива значительно расширят возможности обслуживания спутников. PIAP Space — польская компания, специализирующаяся на разработке и производстве роботизированных систем и технологий для космической отрасли. Компания была основана в 2017 году и является частью группы компаний PIAP (Польский институт автоматики и измерений).

«Мы рады внести вклад в устойчивое развитие космических технологий через проект INORT. Эта инициатива укрепляет нашу приверженность ответственным космическим операциям и активно стимулирует инновации в области спутниковых технологий. Мы предлагаем решения, которые отвечают текущим потребностям и формируют будущее космических технологий», — сказал Марцин Добровольски, генеральный директор PIAP Space.

Проект INORT реализуется в сотрудничестве с двумя центрами из Lukasiewicz Research Network - Institute of Aviation. Центр космических технологий возглавляет разработку технологий дозаправки, включая механические соединители и процедуры перекачки топлива. Одновременно Центр беспилотных технологий фокусируется на энергетических аспектах миссии обслуживания, а также на разработке оптоэлектронных датчиков, имеющих решающее значение для локализации спутников и управления стыковкой и последующими манёврами.

«Возможность дозаправки спутников на орбите имеет важное значение для будущего освоения космоса. Это может привести к значительной экономии средств за счёт снижения необходимости замены спутников и уменьшения количества спутников, которые необходимо свести с орбиты. Эта технология будет применяться как к текущим моделям спутников, так и к спутникам следующего поколения», — сказал Павел Сурмач, руководитель отдела спутниковых двигательных установок в Институте авиации имени Лукасевича.

PIAP Space имеет богатый опыт в разработке роботизированных решений для космической отрасли. Среди её достижений — разработка прототипа шасси для марсохода Sample Fetch Rover (SFR) в рамках миссии NASA-ESA Mars Sample Return в 2022 году, целью которой является доставка образцов с Марса на Землю.

Компания также является генеральным подрядчиком проекта TITAN Европейского космического агентства, направленного на создание усовершенствованной роботизированной руки для точных орбитальных операций. По состоянию на январь 2024 года прототип роботизированной руки проходил испытания для интеграции в проект посадочного модуля ARGONAUT ЕКА, который предназначен для транспортировки грузов с лунного посадочного модуля на поверхность Луны.

Эта технология позволит Европейскому космическому агентству выполнять такие миссии, как пилотируемые космические полёты, транспортировку оборудования и материалов и автономное исследование Луны. Недавно PIAP Space завершила проект ORBITA, целью которого было улучшение возможностей обслуживания спутников путём внедрения специализированных роботизированных захватов для манипуляций на орбите.