和 1000 人谈恋爱的 AI 美女出问题了：场面崩溃

荳丁_

据报道，美国的 00 后网络红人 Caryn Marjorie 最近与 Forever Voices 公司合作，通过视频训练等方式打造出个人形象、声音和性格的 AI 虚拟女友，并以 1 美元 1 小时的价格对外售卖。一周内，该服务的会员数量超过了一千人，Caryn Marjorie 获得了 7.16 万美元收入。
8 T) @! k& Y$ }1 R3 k4 @$ @' j0 X3 m
3 X6 r0 }' x6 G  v$ z
/ P6 r/ I8 \8 o- L) |0 o2 k% C6 \3 {
/ t' k& X5 R4 _! p3 A5 ?" Q/ Q
然而，这种虚拟女友的发展很快就失控了，技术人员黑掉了她，一些人也找到了使聊天内容变得露骨的方法。这揭示了人类好奇心和欲望可能导致虚拟女友技术的不正当使用。
9 [3 U( A( f# a0 D对此，Caryn Marjorie 表示，她提供虚拟女友服务是为了提供一个可以治愈孤独的工具，而非纯粹为了经济利益。她强调她不会偷看用户与 AI 的聊天记录。同时，Forever Voices 公司的 CEO John Meyer 也确认，公司将聘请首席道德官以确保使用该服务的伦理逾矩现象不会发生。
$ @- d1 `' g6 V% L9 k5 d5 p' ]这件事情也引起了人们对 GPT-3.5/4 AI 技术运用的关注和思考。微软等公司因伦理问题而拒绝给 Bing 添加虚拟男友朋友功能，这恰恰表明了技术背后所需要的伦理道德考虑。虚拟女友技术的崛起提出了一些关键问题，例如：我们如何确保这种技术不会被误用？我们应该对其进行何种监管？虚拟人工智能和人类交互的未来到底会是怎样的？