你好，欢迎访问个人主页！
擅长密码学，安全分析，数字水印等技术。
你可以联系我通过:findmykexin@gmail.com或者知乎私信。
我的知乎链接：苏迟但到 - 知乎 (zhihu.com)
我的github链接：kexinoh
","icon":"https://kexohcdn.gptapi.cyou/kexohproject/production/images/channel-2e54d141ee195646ca12a9d16507a908.jpg","favicon":"https://kexohcdn.gptapi.cyou/kexohproject/production/images/favicon-340a2925d02a0386f3b954a032834917.jpg","authors":[{"name":"苏迟但到"}],"language":"zh-cn","items":[{"id":"hkft5QVqmVf","title":"315 曝光「『AI 变脸』难识别，电信诈骗防不胜防」，还有哪些信息值得关注？","content_html":"AI变脸这个问题其实应该属于人工智能安全的部分。
从fakeface出来之后，大家也一直正在尝试的努力解决这方面的问题，比如往生成的AI内容插入数字水印等等方法。
最近微软和谷歌等等大厂也在尝试组建联盟和标准（有C2PA，Coalition for Content Provenance and Authenticity，内容来源和真实性联盟等等，还有元数据相关标准等等）来减少虚假内容的生成的。
C2PA 协议能为 AI 生成内容贴上标签，已获微软和 Adobe 支持，这对人工智能模型有哪些改变？但是开源模型让有些不法分子可以不受控制的生成AI内容。
这就要使用上AI识别技术了。
对于AI人脸的识别技术比如抖音就有，会在下面自动提醒该视频由AI生成。
这是因为AI生成的人脸在连接出必然会出现信息的损失，所以存在被识别的可能性。
当然仅仅是可能性，如果是自己训练出来的AI换脸模型，那么很有可能就绕过了平台的审查。
对于个人而言的话，
比如黑客进行社会工程学攻击，冒充你的领导给你打视频电话，要求你去给某个账户转钱等等。
比较合理的方式有：
1.通过不同的账号对领导进行联系。比如打的微信电话，那么你回个手机电话回去。
2.设置延时转账或者要求相应的手续之内的。这部分依赖于公司内部的平时的财务管理的建设，如果不够严谨就有可能会被利用。
还有拉着其他同事一起进行操作，或者向其他领导进行请示等等，万一出错的话，也不是一个人背锅。
","content_text":"AI变脸这个问题其实应该属于人工智能安全的部分。\n\n从fakeface出来之后，大家也一直正在尝试的努力解决这方面的问题，比如往生成的AI内容插入数字水印等等方法。\n\n最近微软和谷歌等等大厂也在尝试组建联盟和标准（有C2PA，Coalition for Content Provenance and\nAuthenticity，内容来源和真实性联盟等等，还有元数据相关标准等等）来减少虚假内容的生成的。\n\nC2PA 协议能为 AI 生成内容贴上标签，已获微软和 Adobe 支持，这对人工智能模型有哪些改变？\n\n但是开源模型让有些不法分子可以不受控制的生成AI内容。\n\n这就要使用上AI识别技术了。\n\n对于AI人脸的识别技术比如抖音就有，会在下面自动提醒该视频由AI生成。\n\n这是因为AI生成的人脸在连接出必然会出现信息的损失，所以存在被识别的可能性。\n\n当然仅仅是可能性，如果是自己训练出来的AI换脸模型，那么很有可能就绕过了平台的审查。\n\n对于个人而言的话，\n\n比如黑客进行社会工程学攻击，冒充你的领导给你打视频电话，要求你去给某个账户转钱等等。\n\n比较合理的方式有：\n\n1.通过不同的账号对领导进行联系。比如打的微信电话，那么你回个手机电话回去。\n\n2.设置延时转账或者要求相应的手续之内的。这部分依赖于公司内部的平时的财务管理的建设，如果不够严谨就有可能会被利用。\n\n还有拉着其他同事一起进行操作，或者向其他领导进行请示等等，万一出错的话，也不是一个人背锅。","date_published":"2024-03-15T13:52:12.000Z","_microfeed":{"web_url":"https://kexohproject.pages.dev/i/315-ai-hkft5QVqmVf/","json_url":"https://kexohproject.pages.dev/i/hkft5QVqmVf/json/","rss_url":"https://kexohproject.pages.dev/i/hkft5QVqmVf/rss/","guid":"hkft5QVqmVf","status":"published","itunes:title":"New Article Title for iTunes","date_published_short":"Fri Mar 15 2024","date_published_ms":1710510732000}}],"_microfeed":{"microfeed_version":"0.1.2","base_url":"https://kexohproject.pages.dev","categories":[{"name":"Education","categories":[{"name":"Language Learning"}]},{"name":"Technology"}],"subscribe_methods":[{"name":"RSS","type":"rss","url":"https://kexohproject.pages.dev/rss/","image":"https://kexohproject.pages.dev/assets/brands/subscribe/rss.png","enabled":true,"editable":false,"id":"4KlfbtkEfzy"},{"name":"JSON","type":"json","url":"https://kexohproject.pages.dev/json/","image":"https://kexohproject.pages.dev/assets/brands/subscribe/json.png","enabled":true,"editable":false,"id":"DVFm7TYiNSq"}],"description_text":"你好，欢迎访问个人主页！\n\n擅长密码学，安全分析，数字水印等技术。\n\n你可以联系我通过:findmykexin@gmail.com或者知乎私信。\n\n我的知乎链接：苏迟但到 - 知乎 (zhihu.com)\n\n我的github链接：kexinoh","copyright":"©2024","itunes:type":"episodic","items_sort_order":"newest_first"}}