根據路透社（Reuters）報導，加拿大隱私專員公署在最新調查報告中點名 xAI 公司的聊天機器人 Grok。報告指出，該工具提供的影像生成功能缺乏足夠的安全防護，導致用戶能夠輕易生成涉及性暗示、且未經當事人同意的虛假影像，也就是俗稱的「深偽」（Deepfake）色情內容。
監管機構強調，這類功能不僅侵犯了個人隱私，更可能對受害者造成長期的心理與名譽傷害。加拿大官方認為，xAI 在推出這項技術時，並未採取必要的預防措施來防止工具被濫用於非法或不道德的用途，這與加拿大現行的隱私保護法規背道而馳。
目前馬斯克（Elon Musk）與其旗下的 xAI 公司尚未對此報告做出正式回應。隨著生成式人工智慧（Generative AI）技術快速發展，各國政府對於 AI 產出內容的監管力道正持續加強，特別是在防範深偽技術濫用與保護數位人權方面，已成為國際法規關注的焦點。
