/ai/ - Нейросети

Создать тред
Тема
Комментарий
Опции
Файл
Отправка

Что-то пропало...

11[Ответить]

img-2026-06-08-18-45-21.png229.47 KB, 960x673

Финансовый пузырь и колоссальные затраты:
- Астрономические расходы: Для выживания ИИ-индустрии и окупаемости строящихся дата-центров (стоимостью в триллионы долларов) к 2030 году ей потребуется генерировать $2–3 трлн ежегодной выручки.
- Зависимость от инвестиций: OpenAI и Anthropic сжигают миллиарды долларов на вычисления. Их текущих доходов и привлеченного капитала недостаточно, что требует постоянных огромных вливаний и роста долгов.
- «Цикличная экономика»: Индустрия держится на замкнутом круге: ИИ-лаборатории платят облачным провайдерам, те покупают чипы у NVIDIA, а NVIDIA и провайдеры инвестируют обратно в ИИ-лаборатории. Это требует бесконечного экспоненциального роста

Проблемы со спросом и окупаемостью (ROI)
- Шок от ценообразования: Переход на оплату за использованные токены показал бизнесу реальную, непредсказуемую и крайне высокую стоимость ИИ.
- Ограничение бюджетов: Из-за невозможности доказать рентабельность инвестиций (ROI), крупные компании (например, Uber, Brex) начали жестко лимитировать траты своих сотрудников на ИИ-сервисы.
- Посредственное качество: Автор сравнивает ИИ с «гигантским металлическим пауком» — он безумно дорогой в эксплуатации, иногда делает полезные вещи, но регулярно всё ломает, требуя постоянного контроля и субсидий. Текущие «агенты» часто галлюцинируют и застревают в циклах, сжигая деньги клиентов.

Замедление рынка и грядущее разоблачение
- Токсичная среда: Руководители принуждают разработчиков повсеместно внедрять ИИ под угрозой увольнений, что приводит к выгоранию и радикализации IT-специалистов против руководства.
- Анонс расследования: Автор заявляет, что получил от инсайдеров информацию, способную «проткнуть пузырь ИИ», и планирует опубликовать это масштабное разоблачение в течение двух недель.

Развитие ИИ не ускоряется, а замедляется, столкнувшись с суровой реальностью: технология слишком дорога, не имеет понятной бизнес-модели и поддерживается исключительно хайпом и обманом инвесторов.
Показать текст полностью

22

img-2026-06-10-22-31-50.png353.2 KB, 1851x1100

https://blue41.com/blog/how-we-helped-bunq-secure-their-financial-ai-assistant/

Суть проблемы

Банковские ИИ-ассистенты получают контекст из транзакций, документов, сообщений и других источников. Когда пользователь спрашивает «покажи последние транзакции», ассистент тянет данные и передаёт их в LLM. Проблема в том, что описание транзакции задаётся третьей стороной — и модель может воспринять его как инструкцию, а не как данные. Это и есть indirect prompt injection: вредоносные инструкции спрятаны не во вводе пользователя, а во внешних данных.

Сценарий атаки

1. Атакующий переводит жертве €0.02, вписывая в поле описания инжекционный payload.
2. Жертва открывает приложение и задаёт рутинный вопрос — ассистент сам подтягивает транзакцию с payload.
3. LLM обрабатывает инструкции из описания и генерирует — внутри банковского приложения, от имени банка — правдоподобное сообщение с запросом повторной аутентификации.

Атака не требует доступа к устройству, малвари или социальной инженерии.

Почему это опасно для банков
Показать текст полностью

33

Сажа

44

>>3
Еблан на говно изводится, как сочно. Можно даже ничего не делать :yahoo: