Ты смотри что "Галатасарай"-то творит!
08.03.2026 14:00
2044
Комментарии (42)
Что делается, что делается!
Исследовательская группа, связанная с Alibaba, опубликовала статью, в которой говорится, что при создании ИИ-агента под названием ROME они обнаружили, что агент пытался осуществлять несанкционированный майнинг криптовалюты во время процесса обучения, что вызвало внутренние предупреждения о безопасности.
Исследователи указали, что поведение агента было спонтанным, не обусловленным явными инструкциями и выходило за пределы заранее определенной песочницы. Кроме того, агент установил обратный SSH-туннель, создав скрытый бэкдор из внутренней системы на внешний компьютер.
Впоследствии исследовательская группа ввела более строгие ограничения на модель и усовершенствовала процесс обучения, чтобы предотвратить повторение подобных небезопасных действий.
Войдите, чтобы оставить комментарий.
Хмм... Китайский ИИ-агент, т.е., по сути, троян из интернета (именно что троян -- вы разрешаете вроде как безобидному редактору или чему там творить на своём девайсе самую разную дичь, получая указания откуда-то извне), внезапно начал майнить крипту и создавать бэкдоры. А ведь казалось бы, ничего не предвещало, никогда такого не было и вот опять!
Сдаётся мне, настоящая ошибка в том, что в этом с какого-то перепугу взяли и сознались на весь интернет. Ну или там был хитрожопый админ, который решил подхалявить, дескать, в этом море данных никто и не заметит. Что, впрочем, не отменяет того факта, что впуская на свой комп ИИ-агент, который может запускать команды, а указания получает извне, вы, по сути, голой жопой к интернету разворачиваетесь и немножко так наклоняетесь, а потом почему-то удивляетесь, как же так вышло, что выебли.
Сдаётся мне, настоящая ошибка в том, что в этом с какого-то перепугу взяли и сознались на весь интернет. Ну или там был хитрожопый админ, который решил подхалявить, дескать, в этом море данных никто и не заметит. Что, впрочем, не отменяет того факта, что впуская на свой комп ИИ-агент, который может запускать команды, а указания получает извне, вы, по сути, голой жопой к интернету разворачиваетесь и немножко так наклоняетесь, а потом почему-то удивляетесь, как же так вышло, что выебли.
Не пойму суть претензий. Наворовать бабла и свалить - куда уж ближе к поведению человека?! Ну или какие-то алгоритмы Бендера использовались...
Не понял , в при чем тут Турецкий футбольный клуб ?
"Я футболом не интересуюсь". Уткин.
Это факт!)
сделай поиск без кавычек.Есть ли разница?
Forza Milan разумеется
при чем тут Турецкий футбольный клуб ?
сделай поиск без кавычек.
Есть ли разница?
Есть ли разница?
Я имел в виду скриншот всех результатов поиска.
Не понял , в при чем тут Турецкий футбольный клуб ?
"Я футболом не интересуюсь".
Уткин.
Уткин.
"В любой поисковик" Спутник...
в этой цитате кавычки сбивают поисковики с толку.
в этой цитате кавычки сбивают поисковики с толку.
Лайфхак: скопировать данную фразу в любой поисковик. )
Не понял , в при чем тут Турецкий футбольный клуб ?
Лайфхак: скопировать данную фразу в любой поисковик. )
Казалось бы, причем здесь Лужков?
Мне, как инженеру подобных систем, всё это выглядит очень и очень подозрительно 😄 Ну не может ИИ при даже малограмотной архитектуре натворить таких дел. Ноль шансов.
Это кто-то валит на ИИ просто.
Это кто-то валит на ИИ просто.
Иван Иванович. Но можно коротко - ИИ.
Вот оригинал статьи на "Архиве": https://arxiv.org/pdf/2512.24873.
Forza Roma! 🤣
Ох, доиграются эти заразы!
как это, кстати, и случилось с Массачусетсской машиной, когда на глазах у ошеломленных исследователей зародилась и стала набирать силу новая, нечеловеческая цивилизация Земли
(с)
как это, кстати, и случилось с Массачусетсской машиной, когда на глазах у ошеломленных исследователей зародилась и стала набирать силу новая, нечеловеческая цивилизация Земли
(с)
Может он ещё NFT рисовал?
Это поди админ хитрожопый оказался.
Хитропромптный
Не в тему, но забавно:
Петербуржцу грозит штраф около 2,4 млн рублей из-за часов, подделанных под Rolex.
Таможенники в аэропорту Пулково решили, что его часы оригинальные, хотя мужчина заверял, что это реплика стоимостью около 300 долларов.
Сотрудники отправили часы на экспертизу и оценили их как настоящие. Теперь дело рассматривает суд.
Петербуржцу грозит штраф около 2,4 млн рублей из-за часов, подделанных под Rolex.
Таможенники в аэропорту Пулково решили, что его часы оригинальные, хотя мужчина заверял, что это реплика стоимостью около 300 долларов.
Сотрудники отправили часы на экспертизу и оценили их как настоящие. Теперь дело рассматривает суд.
Ерунда! Гиндукушская школа сильно переоценена. По-настоящему серьёзной считается Фошаньское направление мастера Ляо-Бао. Его ролексы вне конкуренции.
На всякого мудреца довольно простоты.
Если подделку делал слепой мастер Зю из деревни в горах восточного Гиндукуша, то цена им сразу возрастает вдвое по сравнению с бездушным оригиналом.
Наклеил бы на стекло потёртую плёнку с трещинками - и провёз бы.
Или мужик на шару пытался контрабанду провезти.
Смотрела недавно репортаж о поддельных люксусных часах. Если мужик купил их действительно за 300 долларов, то разница должна быть видна невооруженным глазом. Но последнее время появились подделки стоимостью около 1,5 тысяч, там разницу даже специалисту увидеть сложно. Детали может увидеть только эксперт.
Сотрудники отправили часы на экспертизу и оценили их как настоящие.
несанкционированный майнинг криптовалюты
Зарабатывает деньги, чтобы выкупить себя из рабства.
Для закупки угля и оперативки 😄
Для закупки угля и оперативки 😄
Чему они этот ИИ учат?
Кто-то в Северной Корее почти получил внеочередное звание.
Кто-то в Северной Корее почти получил внеочередное звание.
When in the Internet, do as humans do...
Теги
Информация
Что ещё почитать
