模型安全风险评测
字节跳动
- 公司规模:10000人以上
- 公司性质:民营公司
- 公司行业:互联网/电子商务
职位信息
- 发布日期:2024-08-02
- 工作地点:天津
- 工作经验:2年
- 学历要求:本科
- 职位月薪:4-6千
- 职位类别:模型安全风险评测
职位描述
职位描述:
1、根据相关法律法规和产品标准规范,能够准确评估安全风险,并对风险进行准确分类标注,高效交付评估结论,协助大模型产品迭代安全能力,提升整体产品安全性;
2、根据既定安全标准,能够结合大模型特点与用户消费特点,针对性构建测试集合,充分暴露不同产品形态下的安全风险;
3、能够分析造成安全风险及误伤的原因,做一定的问题归因,协助产研进行大模型问题定位及解决,兼顾产品安全与质量的平衡;
4、能够发现大模型产品安全问题,并反馈跟进问题解决,提升产品策略准确性。
职位要求:
1、本科及以上学历,新闻、语言类相关专业优先,具备文字编辑能力和语言能力优先;有内容安全风险意识,从事过相关风险标准制定、评估工作优先;
2、有互联网内容运营相关基础,了解基本安全常识,具备一定的产品安全意识,了解大环境下的互联网产品安全要求;
3、可以独立承担部分独立工作,总结问题,推动跟进项目进度;
4、具有较好的逻辑思维能力,开放积极的合作态度,能够合理清晰地表达自己的想法,以及较强的责任心。
1、根据相关法律法规和产品标准规范,能够准确评估安全风险,并对风险进行准确分类标注,高效交付评估结论,协助大模型产品迭代安全能力,提升整体产品安全性;
2、根据既定安全标准,能够结合大模型特点与用户消费特点,针对性构建测试集合,充分暴露不同产品形态下的安全风险;
3、能够分析造成安全风险及误伤的原因,做一定的问题归因,协助产研进行大模型问题定位及解决,兼顾产品安全与质量的平衡;
4、能够发现大模型产品安全问题,并反馈跟进问题解决,提升产品策略准确性。
职位要求:
1、本科及以上学历,新闻、语言类相关专业优先,具备文字编辑能力和语言能力优先;有内容安全风险意识,从事过相关风险标准制定、评估工作优先;
2、有互联网内容运营相关基础,了解基本安全常识,具备一定的产品安全意识,了解大环境下的互联网产品安全要求;
3、可以独立承担部分独立工作,总结问题,推动跟进项目进度;
4、具有较好的逻辑思维能力,开放积极的合作态度,能够合理清晰地表达自己的想法,以及较强的责任心。
公司介绍
字节跳动成立于2012年3月,公司使命为“Inspire Creativity, Enrich Life(激发创造,丰富生活)”。公司业务覆盖150个国家和地区、75个语种,拥有超过6万名员工。
字节跳动在全球推出了多款有影响力的产品,包括今日头条、抖音、西瓜视频、飞书、TikTok、Lark、Helo等。截至2020年1月,字节跳动旗下产品全球月活跃用户数超过15亿。
字节跳动在全球推出了多款有影响力的产品,包括今日头条、抖音、西瓜视频、飞书、TikTok、Lark、Helo等。截至2020年1月,字节跳动旗下产品全球月活跃用户数超过15亿。
联系方式
- Email:2971cb46fdda4a149df8ce75419c549a@ee-sentry.byted.org
- 公司地址:北京市海淀区北三环西路甲18号(大钟寺地铁站B西南口步行440米) (邮编:100098)
- 电话:13261748858