AI Is Dangerous, but Not for the Reasons You Think | Sasha Luccioni | TED

TED

6 Nov 202310:19

Summary

TLDR这位人工智能研究员分享了她在AI领域的经历，特别是关于AI对社会的影响。她探讨了AI对环境的巨大能耗与碳排放，强调了AI模型训练和部署的环境成本。此外，她还关注了版权问题和艺术家未授权数据使用的现状，介绍了工具如‘Have I Been Trained’来帮助追踪数据集中的个人作品。同时，她警示了AI模型可能带来的偏见，尤其是在法律和社会领域。她主张关注当前的实际影响，并推动采取措施，确保AI技术更加可持续、公平和透明。

Takeaways

😀 AI的快速发展带来了对环境的负面影响，尤其是在能源消耗和碳排放方面。
😀 AI模型的训练不仅消耗大量能源，还可能对气候变化产生不利影响。
😀 大型AI模型如GPT-3的环境成本非常高，训练过程中排放的二氧化碳相当于多次环绕地球的驾驶距离。
😀 目前，很多科技公司并没有公开AI模型的环境影响数据，这让问题变得更加严重。
😀 将较小且高效的模型替换为大型语言模型，会使碳排放增加14倍。
😀 AI不只是未来的威胁，当前已经带来了很多现实的社会影响，尤其是在艺术和版权方面。
😀 艺术家和作家的作品在未征得同意的情况下被用于训练AI模型，造成版权问题。
😀 Spawning.ai开发的“我被训练过吗？”工具，可以让创作者查找其作品是否被用于训练数据集，帮助维权。
😀 AI模型的偏见问题在现实中造成了严重后果，特别是在司法和执法过程中，可能导致错误指控和冤屈。
😀 通过创建工具如稳定偏见探索器，可以帮助更好地理解AI模型中的性别、种族等偏见，并推动解决方案的制定。
😀 针对AI的复杂问题没有单一的解决方案，但通过透明化、测量影响并创建相关工具，可以逐步减少其负面影响。

Q & A

人工智能对环境有哪些影响？
-人工智能模型的训练需要大量能源，这直接对环境造成影响。例如，训练大型语言模型Bloom时消耗的能源相当于30个家庭一年的能源使用，并排放了25吨二氧化碳，等同于驾车绕地球五圈。随着模型规模的扩大，能源消耗和碳排放也在不断增加。
为什么‘更大更好’的AI模型会带来更高的环境成本？
-目前的AI发展趋势是模型越大越强，但这会导致环境成本大幅上升。例如，换用更大更高效的模型，其碳排放是同一任务所需小型模型的14倍。这是因为更大模型所需的计算能力和能源更为庞大。
‘代码碳’工具是如何帮助解决AI的环境问题的？
-‘代码碳’是一种工具，可以在AI训练过程中实时估算其能源消耗和碳排放量。通过使用该工具，研究人员和开发人员可以做出更环保的决策，比如选择能源消耗较低的模型，或将模型部署在可再生能源上，从而减少碳排放。
AI是否侵犯了艺术家的版权？
-AI模型的训练数据通常包括未经艺术家或作者同意的作品，这侵犯了他们的版权。‘Have I Been Trained?’是一个可以帮助艺术家查询他们的作品是否被用于AI训练的数据集工具。艺术家如Karla Ortiz通过此工具找到了证据，起诉了AI公司侵犯版权。
AI训练中没有获得艺术家同意的问题如何得到解决？
-‘Spawning.ai’与‘Hugging Face’合作，创建了数据集的‘选择加入’和‘选择退出’机制，允许艺术家选择是否允许他们的作品用于AI模型的训练，这样可以更好地保护艺术家的版权。
AI模型如何引发偏见问题？
-AI模型可能会在其训练过程中学习到性别、种族等刻板印象，导致系统偏见。例如，面部识别系统对有色人种女性的识别准确性较低，可能导致错误的指控和不公正的判决。
偏见如何影响AI系统在法律领域的应用？
-AI系统的偏见在法律领域应用时，可能导致错误的指控或不公正的判决。例如，Porcha Woodruff因面部识别系统错误地识别她为嫌疑犯而被错误指控。偏见使得AI在这类敏感领域的使用风险增加。
‘稳定偏见探索器’工具如何帮助识别AI偏见？
-‘稳定偏见探索器’是一个工具，可以帮助人们探索图像生成模型中的偏见，尤其是在职业领域的表现。通过使用这个工具，可以揭示如科学家、律师等职业中普遍存在的性别和种族偏见，从而更好地理解AI模型的偏差。
AI系统中的性别和种族偏见是如何影响公众认知的？
-AI系统中的性别和种族偏见会强化刻板印象，例如将律师、CEO等职业与白人男性形象挂钩，而忽视了其他性别和种族的代表性。这种偏见可能影响社会对职业角色的看法，尤其在图像生成系统和公共安全工具中，可能加剧不公正。
为什么我们应该关注AI当前的影响，而非单纯关注未来的潜在风险？
-虽然AI的未来潜在风险如‘奇点’或‘人类灭绝’等问题引起了广泛关注，但当前AI对环境、版权和偏见的实际影响更为紧迫。通过关注这些具体问题，我们可以在今天就采取措施，减少负面影响，并为未来的AI发展铺设更好的道路。