纽约有学校禁止学生使用ChatGPT 聊天机械人惹起争议

-

ChatGPT 横空出世,有传微软入股 OpenAI,投资 100 亿美元於 ChatGPT。这聊天机械人却在某些界别引起争议。当中有美国纽约更有学校限制网络,禁止学生使用 ChatGPT。到底 ChatGPT 应用有什麽争议?

ChatGPT 应用引起社会界别争议

以下是对 ChatGPT 应用有争议声音的 4 个界别:

1. 教育界

《美联社》报导,纽约市教育局於 2023 年 1 月 5 日证实,当地公立学校网路和电脑不再开放ChatGPT,学校系统将过滤挡下 ChatGPT 网站。发言人 Jenna Lyle表示:「虽然工具可以提供快速且简单的答案,但它不能培养人类拥有批判思考和解决问题的能力,无助学术和个人成长。」然而,师生仍可透过自己行动装置的网路连上ChatGPT 网站。

2. 学术界

美国南卡罗来纳州 Furman University 哲学系访问助理教授 Darren Hudson Hick 於自己 Facebook 发文分享,发现学生用 ChatGPT撰写论文。他形容,除了学术专业让他能够判断真伪以外,ChatGPT目前还不善於引用。

3. 政治界

计算机和人工智能研究者 David Rozado 指,经过大量测试,让程式以「非常同意」到「非常不同意」等不同程度回答来政治取向测试,发现 ChatGPT 与左翼自由主义世界观相符;而在身份政治和种族移民等问题上,立场总体倾向「建制自由主义」(Establishment Liberals)立场,包括反对死刑、支持堕胎、怀疑自由市场、支持性解放、对富人徵税、企业剥削发展中国家、支持政府补贴、为无业者提供福利等。

4. 网络安全界

Check Point Research 专家指出并示范,只要输入简单命令,聊天机械人便能制作武器化 Excel 文件;同时便於改进现有网络钓鱼电子邮件,令恶意软件感染能力更高。

Check Point Software 威胁情报组经理 Sergey Shykevich 指出,ChatGPT 有显着改变网络威胁的能力麽,现在任何人,包括缺乏资源和没有编程基础知识的人,都可以轻易利用 ChatGPT 对网络安全造成威胁。他又敦促,网络安全研究人员须在 ChatGPT 等技术成熟前,保持警惕。

资料来源:CNBC、美联社、HK01、Tech Radar、CNBC YouTube、Check Point Research、davidrozado.substack

OpenAI 回应 ChatGPT争议1. OpenAI 望与教育界合作

OpenAI 於一份由人工撰写的声明中表明,公司计画与教育工作者合作,了解人类如何在真实世界与 ChatGPT 互动。公司又指,不希望 ChatGPT 在学校或任何地方被误用,因此已经开发相关缓解措施,帮助识别由系统产生的文本。

2. OpenAI 研究浮水印辨别生成文字

OpenAI 客座研究员、美国 University of Texas at Austin 电脑科学系教授 Scott Aaronson 於网志表示,公司正在尝试於 ChatGPT 生成的文字中,加入类似浮水印(watermark),却在正常情况下难被发现的秘密讯号,协助人们辨别。

资料来源:scottaaronson.blog、Tech Crunch

CNY Kids Bootcamp Early Bird Offer!

阅读更多:Web 3.0是甚麽?区块链热潮下2023年必懂的科技概念GameFi是什麽?一文了解以加密货币边玩边赚钱的区块链游戏!什麽是加密货币?一文了解比特币、区块链等难懂概念不只是游戏!关於元宇宙,你需要知道的事【金融科技】一文了解香港 Fintech 的应用和发展【去中心化】和中心化有何分别?一文了解应用范畴及优势什麽是云端运算?Cloud Computing 4大日常应用

gateio交易所怎么样

最新趋势

0 0 投票数
Article Rating
订阅评论
提醒
guest
0 Comments
内联反馈
查看所有评论

Recent comments

0
希望看到您的想法,请您发表评论x