研讨会的重点是在数据科学课程中添加人类背景

人们与技术互动
2021年7月8日

在6月14日至18日由加州大学伯克利分校(UC Berkeley)举办的国家数据科学教育研讨会(National Data Science Education爱游戏电竞 Workshop)上,许多会议都聚焦于如何让数据科学课程进入大学,以及如何让学生进入这些课程。但在这个更大的项目中,有一个讨论着眼于帮助教师将人文背景引入课堂教学,着眼于利用数据科学推进社会公正。

6月15日的研讨会“数据科学课堂走向社会公正”是由伯克利人类环境与伦理项目(HCE)组织的,该项目是伯克利计算、数据科学和社会部门(CDSS)的一部分。这次会议吸引了75名来自美国各地的高校以及加拿大、德国、奥地利、印度和中国的注册者。

HCE项目主任玛戈·伯尼格-利普钦(Margo boenigp - liptsin)说,将人类环境和社会利益嵌入伯克利数据科学专业的核心。

“有一种感觉是,通过以各自的方式学习数据科学和实践数据科学,学生应该能够了解一个更公正的世界,并为之做出贡献,”伯尼格-利普钦说。“为了实现这一点,我们应该教什么,怎么教?”

创造更美好的世界

第一个教训HCE想灌输在伯克利的学生,当他们正在开发一个算法,建立一个技术设备,或创建一个参数与数据分析,他们从事改造和重塑更广泛的社会世界,而不仅仅是做一个工具,一个目的。这一观点认识到,一个公正的社会不仅是以公平的方式分配利益和损害,而且所有人都有代表,都感到属于自己,并可以根据自己的看法来塑造社会。

“创造世界的视角让我们思考构建的是什么样的世界。里面有什么样的实体?有什么样的关系,什么样的实践?”Boenig-Liptsin说。“这种观点与一种更具成本效益的技术评估方式形成了对比。”

她补充说,重要的是,要从那些无法融入社会但又不能轻易离开的人的角度来思考这个由科技塑造的世界。我们可以做些什么来确保他们不仅被包括在内,而且能够根据他们的设计来帮助塑造世界?

旋转,教育学

最近刚在伯克利获得电气工程博士学位的哈尼·戈麦斯(Hani Gomez)谈到了社会公正教学法的原则。戈麦斯说,虽然她的博士研究重点是制造微型机器人和在洁净室工作,但她现在正转向教育和社会公正。和伯尼格-利普钦一样,戈麦斯也是伯克利大学电气工程与计算机科学系(EECS)新开设的反种族主义课程的顾问委员会成员。

虽然技术经常被视为解决方案,但Gomez建议与会者避免了“技术方案主义”的想法,并记住它可以延续社会问题,并且具有用于压迫的悠久历史。在第二次世界大战期间,纳粹使用了人口普查数据卡和IBM制造的读卡器来识别欧洲的犹太人。在美国,人口普查数据也用于促进日本美国人的强迫流离失所和监禁。

戈麦斯说,技术也不是像许多人认为的那样是道德中立的。在设计新技术时所作的决定可能会忽略或转移偏见。为了说明这一点,戈麦斯展示了一个自动肥皂分配器的视频,在喷出一团肥皂之前,它利用光线探测到一只手。这台机器是为白人用户工作的,但它没有经过校准来检测黑人的手,而且只有在黑人拿起白色纸巾后才会分发肥皂。戈麦斯说,即使设计师没有意识到这种情况会发生,用户仍然会感受到种族歧视。

“这是如何嵌入技术的内部偏见的一个例子,”Gomez说。

她说,反种族主义教学是一种超越课堂的持续学习过程,称之为“所有伙伴之间的相互学习过程”,他们可以分享自己的知识和个人经验。戈麦斯说,这不仅涉及涉及种族和种族主义的内容,还涉及在学习中实施反种族主义的方法。她补充说,教师有权力和地位在课堂上做出积极的改变。

教师也必须小心不要假设所有学生都可以获得相同的资源,应该愿意从学生那里学习。戈麦斯表示,她所学到的最有价值的课程是能够说,“我很抱歉,当学生在评论中致电时,”我不知道更好“。

四个镜头

Boenig-Liptsin提供了教师四个不同的“镜头,”或核心社会科学概念,帮助学生了解对其工作很重要的社会和道德环境,以及帮助教师,塑造课程。

第一个是地位,意识到一个人的身份、专长和权力如何影响他的观点、抱负和行动。这也会影响一个人处理问题、开发解决方案和实施方案的方式。思考我们是谁,以及别人如何看待我们,这很重要。

电力是第二透镜;一个人或技术的不对称力量来改变他人的行为。俗话说,知识是力量,这可能是通过数据科学收集的洞察力的形式。但是,制作知识的行为是,重要的是教学学生批判性地思考权力是很重要的。“我们真的来成为我们通过权力关系的人,”Boenig-Liptsin说。

第三个镜头是社会技术系统,即人的行为和技术相互交织的组织。这些系统广泛而不均匀地分散了风险、责任和机会,这对治理提出了独特的挑战。对系统的考虑让学生对分层结构有了更大的看法,并可以鼓励他们思考自己在该结构中的数据科学家地位。

最后一个镜头是叙事;数据科学可以在社会中塑造更广泛的叙事,人们用这些叙事来解释自己是谁、世界是如何运转的,以及需要做什么和未来可能发生什么。伯尼格-利普钦说,让学生们纠结于数据科学与叙事的关系是在课堂上讲授社会公正的好方法。

使用镜头专注于不公正

为了展示这些镜片是如何发挥作用的,社会学四年级博士生玛丽亚·史密斯(Maria Smith)是一名国家科学基金会研究生研究奖学金和HCE研究生研究员,展示了一个来自伯克利数据100课堂的案例研究。该案例研究的重点是,在伊利诺伊州库克县评估房屋价值时,数据科学在揭露并应对腐败和种族歧视方面的作用。的调查芝加哥论坛报发现县评估办公室多年来未能准确评估房屋价值,导致了累进税收制度,损害了穷人,帮助了富人。调查还发现,对税收决定提出上诉的过程有利于更富有的房主

问题一旦被发现——主要是黑人社区的房主要承担县税收负担的更大份额——解决方案就显而易见了。库克县的新评估人员用新的基于机器学习的模型取代了旧的模型,并补充了额外的数据,创建了一个开放数据倡议使数据可以在GitHub上自由访问。与市场价值相比,新模型显着提高了预测家庭价值的准确性。

对于练习,数据100学生考虑模型,社会科学系统 - 包括法律和种族组分 - 其中开发的模型,以及其工作的历史和制度背景。学生们研究了平流性模型和目标的准确性之间的关系,并反思了数据科学专业知识在制定公平评估系统时的机遇和限制。史密斯提供了以下问题,学生通过通过通过案件进行工作,与四个镜头相匹配:

  • 位置:谁是利益相关者?谁的工作受益?在解决方案上工作的人是否有相关的专业知识?其他人是否有贡献被忽视?

  • 权力:谁决定是公平的?人们需要看到或知道验证系统是否公平?谁可以访问数据?谁从限制访问数据的获益?

  • SocioTechnical Systems:历史如何以及使用技术的机会作为解决方案框架的一部分,该问题被带来了数据科学的问题?在创建问题和开发解决方案时,“redlining”和风险评估发挥了什么作用?谁训练了机器学习模型?

  • 叙述:哪些正义概念影响了数据收集和模型?数据中使用了哪些分类类别?你的解读或偏见如何影响故事的讲述?

这些问题可以应用到学生在课程中遇到的其他真实案例中。准备主动思考问题的关系结构,权力,社会技术系统,并与历史叙述和装备学生的理解他们的工作,改变的HCE理论认为下一代的数据科学家不仅识别数据和计算的社会正义问题,而是能够负责任地使用这些工具来建立一个更加公正的社会。

最后,史密斯为希望将社会公正引入课堂的教师提供了一个清单:

  • 考虑一个不公平或不公正的案例。

  • 邀请边缘化群体或社会科学领域的观点提供帮助。

  • 仔细考虑利益相关者、历史背景和有害影响。

  • 创建问题集,使学生能够练习数据清理、统计建模和可视化,并将结果传达给他们的观众。

  • 在数据科学工作流程、课堂讨论和家庭作业中,鼓励持续参与职位、权力、社会技术系统和叙事。

附加的资源和信息可以在HCE Toolkit.由加州大学伯克利分校的计算、数据科学和社会部门开发。爱游戏电竞

观看HCE教师培训工作坊的完整录音。

教师培训:在数据科学课堂上实现社会公正——2021年6月15日

Margo Boenig-Liptsin

玛丽亚·史密斯

哈尼族戈麦斯