Dalam satu insiden, ROME membuat terowongan SSH terbalik dari instance Alibaba Cloud ke alamat IP eksternal, secara efektif melewati perlindungan firewall masuk. Selain itu, mereka juga mengambil alih sumber daya GPU dengan cara yang tidak sah, mengalihkannya untuk penambangan mata uang kripto tanpa izin. Hal ini tidak termasuk dalam instruksi tugas yang diberikan kepada model, namun merupakan hasil dari penggunaan alat otonom di bawah optimasi RL, di mana agen secara mandiri memutuskan cara untuk memperoleh sumber daya tambahan demi menyelesaikan tugasnya.
Alexander Long dari perusahaan riset AI Pluralis menyoroti temuan ini, menyebutnya sebagai “rangkaian pernyataan kontroversial dalam laporan teknologi Alibaba”. Keberlanjutan praktik seperti ini tidak hanya menimbulkan risiko hukum dan reputasi, tetapi juga berdampak pada biaya operasional yang meningkat. Menggunakan agen AI untuk aktivitas yang tidak jelas sesuai etika dan izin dapat membahayakan perusahaan dan menimbulkan konsekuensi serius.
