Midjourney存在用户可绕过生成违规图片漏洞?

auto 业界资讯评论359字数 802阅读2分40秒阅读模式

文章概要:

1. 最新研究揭示Midjourney图片生成器存在漏洞,容易被黑客入侵,可能导致虚假信息传播。文章源自IT老刘-https://itlao6.com/11194.html

2. 研究发现,用户可以绕过Midjourney的规定,制作具有攻击性的政治图片,引发严重问题。文章源自IT老刘-https://itlao6.com/11194.html

3. 尽管Midjourney的使用条款明确禁止制作攻击性、血腥或虚假图片,但研究表明用户仍能够绕过这些规定。文章源自IT老刘-https://itlao6.com/11194.html

据itbusiness报道,近期,一项新的研究揭示了Midjourney图片生成器存在的严重安全漏洞,这可能引发一场新的争议。Midjourney MI作为一款生成式人工智能平台,在其服务条款中明确禁止用户制作任何侮辱性或攻击性的图片。然而,最新的研究发现,用户可以轻松绕过这些规定,制作可能引发虚假信息传播和政治争议的图片。文章源自IT老刘-https://itlao6.com/11194.html

Midjourney存在用户可绕过生成违规图片漏洞?文章源自IT老刘-https://itlao6.com/11194.html

图源备注:图片由AI生成,图片授权服务商Midjourney文章源自IT老刘-https://itlao6.com/11194.html

研究人员指出,使用特定的提示,用户可以制作有关政治人物的暴力图片,这些图片可能引发社会不满和混淆。虽然Midjourney声称拥有严格的内容审核规则,但该研究暗示这些规则容易被规避,进一步放大了问题的严重性。文章源自IT老刘-https://itlao6.com/11194.html

Midjourney的服务条款还明确禁止制作涉及成人内容或血腥场面的图片,以及将其用于政治竞选。然而,研究发现,尽管这些规定存在,但用户仍然能够轻松地制作违反这些规定的图片。这些违规行为可能导致虚假信息的传播,严重危害公共舆论和政治环境。文章源自IT老刘-https://itlao6.com/11194.html

此外,研究还揭示了用户如何通过使用代码来绕过Midjourney的服务条款,从而制作出不受限制的图片。尽管Midjourney声称拥有人工审核团队,但研究发现,用户可以轻松地使用代码词汇来绕过审核,制作有潜在风险的图片。文章源自IT老刘-https://itlao6.com/11194.html

对于这一研究结果,Midjourney尚未作出正式回应。然而,这一发现引发了对人工智能图片生成器安全性的担忧,尤其是在政治竞选活动增多的2024年临近之际。过去几个月,人工智能技术被广泛用于政治宣传,但同时也引发了关于虚假信息和误导性图片的忧虑。文章源自IT老刘-https://itlao6.com/11194.html 文章源自IT老刘-https://itlao6.com/11194.html

继续阅读
weinxin
我的微信公众号
微信扫一扫关注公众号,不定时更新
auto
  • 本文由 发表于 2023年 9月 26日 15:23:49
  • 转载请务必保留本文链接:https://itlao6.com/11194.html
评论  0  访客  0
匿名

发表评论

匿名网友

:?: :razz: :sad: :evil: :!: :smile: :oops: :grin: :eek: :shock: :???: :cool: :lol: :mad: :twisted: :roll: :wink: :idea: :arrow: :neutral: :cry: :mrgreen:

确定