访问官网
Github
Huggingface
文档项目介绍:awful-ai
awful-ai是一个令人担忧的人工智能应用列表,旨在追踪当前AI技术在社会中的可怕用途,以提高人们对其滥用的认识。该项目由一群关心AI伦理和社会影响的研究人员和开发者维护。
项目背景
在当前状态下,人工智能存在诸多问题:
- 不公平:AI系统常常会放大现有的系统性偏见,即使在数据平衡的情况下也是如此。
- 易受攻击:AI系统容易受到恶意攻击和操纵。
- 难以控制:AI系统的行为难以准确预测和控制。
尽管存在这些问题,但越来越多令人担忧的AI应用正在出现。awful-ai项目旨在追踪记录这些应用,以引发讨论并推动预防技术的发展。
主要内容
awful-ai项目涵盖了多个领域的有问题AI应用,主要包括:
-
歧视:如基于种族、性别等的偏见算法
-
影响与虚假信息:如深度伪造、假新闻机器人等
-
监视:如面部识别、步态分析等侵犯隐私的技术
-
数据犯罪:如未经许可使用艺术家作品训练AI模型
-
社会信用系统:如中国的社会信用评分系统
-
误导性平台:如过度夸大AI能力的展示机器人
-
加速气候紧急状况:如助长化石燃料开采的AI应用
-
自主武器系统:如AI驱动的杀伤性武器
项目意义
通过系统性地记录和分析这些有问题的AI应用,awful-ai项目有助于:
-
提高公众对AI潜在危害的认识
-
促进对AI伦理和监管的讨论
-
推动预防性技术的发展,以应对AI滥用
-
为政策制定者和研究人员提供参考信息
-
鼓励AI开发者更负责任地设计和部署AI系统
项目特点
- 内容全面:涵盖多个领域的AI应用
- 持续更新:追踪记录最新出现的问题应用
- 开放贡献:欢迎社区提交新的案例
- 提供引用:项目可通过Zenodo进行引用,以提高影响力
总的来说,awful-ai是一个重要的监测和警示项目,为我们认识和应对AI技术的潜在风险提供了宝贵的参考。它提醒我们在拥抱AI带来便利的同时,也要警惕其可能带来的负面影响,推动AI朝着更负责任、更有益于人类的方向发展。
