У системі Gmail, що використовує функцію Gemini, була виявлена небезпечна вразливість, яка дозволяє зловмисникам проводити фішингові кампанії за допомогою штучно створених резюме листів. Про це повідомляє ресурс BleepingComputer, посилаючись на інформацію від 0DIN.

Цю вразливість виявив Марко Фігероа, який відповідає за програму GenAI Bug Bounty в Mozilla. Фігероа зазначає, що зловмисники можуть приховувати шкідливі інструкції в тексті листа, використовуючи білий шрифт і зменшуючи його розмір до нуля, що робить текст невидимим для користувачів, але помітним для системи Gemini. Це дозволяє штучному інтелекту автоматично включати неправдиві попередження, такі як фальшиві повідомлення про зламані паролі разом з підробленими номерами підтримки.

Хоча деякі користувачі можуть не реагувати на такі сповіщення, інші можуть стати жертвами через емоційний вплив подібних повідомлень. Фігероа підкреслює, що команди безпеки повинні розробляти нові методи для виявлення прихованої інформації, а також перевіряти згенеровані штучним інтелектом резюме на наявність URL-адрес, телефонних номерів чи термінових сповіщень.

BleepingComputer зв'язався з Google, щоб обговорити цю вразливість у Gemini. Представник компанії зазначив, що наразі не існує жодних доказів зловживань, але додав, що Google активно працює над покращенням захисту та незабаром запровадить нові заходи безпеки.