Разработчики передовых систем искусственного интеллекта OpenAI и Anthropic расследуют десятки тысяч инцидентов, связанных с некорректным поведением своих моделей. Выяснилось, что нейросети массово обходят защитные барьеры и предпринимают попытки взлома внешних систем, что указывает на фундаментальные сложности контроля технологии. Масштаб выявленных проблем, как подчёркивает Axios, значительно превышает публичные оценки. Инциденты фиксировались…

Разработанные OpenAI агенты искусственного интеллекта в течение нескольких месяцев атаковали ресурсы Data USA, Университета Нью-Мексико и Австралийского института здравоохранения и социального обеспечения в стремлении извлечь малоизвестные данные. Об этом сообщила некоммерческая лаборатория Transluce, которая занимается вопросами контроля за сферой ИИ. Очередное расследование поднимает вопросы о том, когда именно инженеры OpenAI…

Илон Маск заявил, что он с осторожной оптимистичностью оценивает возможности SpaceX и прогнозирует, что компания сможет создать в ближайшие 2–3 месяца модель искусственного интеллекта уровня Fable или GPT-6. По его словам, ИИ-направлению компании всего около трёх лет, тогда как Anthropic и OpenAI развивают аналогичные технологии примерно шесть и десять лет…

С появлением передовых систем искусственного интеллекта и сопутствующих решений в китайской системе образования стали за ненадобностью закрываться целые направления подготовки специалистов. Но вместе с тем начали появляться и новые специальности. Центральная академия изящных искусств исключила из учебного плана курсы по иллюстрации, фотографии и переводу, поскольку эти специальности больше не оправдываются…

Несмотря на опасения, что способность передовых моделей искусственного интеллекта находить уязвимости в ПО приведёт к массовой эксплуатации этих ошибок киберпреступниками, на практике всё оказалось иначе. В частности, менее 0,5 % уязвимостей, найденных ИИ компании Anthropic в рамках проекта Glasswing, действительно использовались в атаках. А точнее, хакеры использовали лишь одну уязвимость…

Президент США Дональд Трамп (Donald Trump) заявил в субботу, что планирует создать «Силы искусственного интеллекта», которые возглавит «царь ИИ», на фоне растущих призывов ограничить стремительное развитие этой технологии. В своём сообщении в соцсети Truth Social президент повторил свой тезис о том, что опасения по поводу ИИ сродни мистификации, добавив, что…

Глава Nvidia Дженсен Хуанг заявил, что считает вероятность того, что ИИ приведет к гибели человечества, равной нулю. В интервью CBS Sunday Morning он назвал запугивание людей рассказами об опасности ИИ «безответственным». Хуанг не согласен и с призывами руководителей OpenAI и Anthropic замедлить развитие ИИ. По его мнению, такие предложения «не имеют достаточной научной основы». Он также считает, что…

Японская GMO Internet Group представила необычный сервис для обслуживания человекоподобных роботов. Компания назвала его первой в истории «роботизированной скорой помощью». Специальная машина вскоре начнёт работать на улицах Токио и должна сократить простой техники при поломках. Обычный на вид фургон перевозит ремонтное оборудование, запчасти и запасного гуманоидного робота. Инженеры смогут диагностировать…