菲龙网新闻部 发表于 2020-9-28 21:34

俄国一公司打算用人脸识别检测街头暴力 专家称须注意合法性|计算机视觉|暴力|算法|合法性|人脸识别

  据媒体报道,俄罗斯计算机视觉公司NtechLab正在开发能通过摄像头检测暴力行为的新技术,预计2021年投入市场。
  当地时间9月23日,NtechLab在下诺夫哥罗德市举行的“俄罗斯数字工业”论坛上宣布了这一消息。据了解,这家公司的人脸识别技术具有世界领先水平,前不久刚刚获得超过10亿卢布的投资,折合成人民币约为8738万元。
  根据NtechLab披露的信息,正在研发中的新技术能使用AI摄像头来检测暴力行为。
  NtechLab联合创始人阿特姆·库哈连科(Artem Kukharenko)简述了背后的技术原理:AI算法将实时分析来自摄像机的视频,提取画面中具有某些“非标准动作”的行为人,并对其发出警告。
  所谓“非标准动作”,简单而言就是一些异常动作,比如有人跌倒或者在人流中快速穿行。库哈连科说,一旦有暴力行为出现,系统会立即锁定行为人,并向集市的保安部通报消息。
  不过,这一检测技术还处于“早期研发阶段”,远远谈不上成熟。库哈连科指出,暴力行为的识别涉及到人脸识别、动作识别和情绪识别。虽然公司现有的人脸识别和情绪识别算法具有很高的精确性,但二者与动作检测算法的结合还有待进一步的研究。
  NtechLab公司尚未透露这一技术系统的成本与预计定价。“如果价格在20到30万卢布之间,我就准备购买。如果超过百万卢布,那就没有必要买了,多雇佣两个警卫会更简单。”Ecooffice公司集团的创始人、拥有多个购物中心的安德烈·科瓦列夫(Andrey Kovalev)说。
  值得注意的是,除了价格,NtechLab还要解决法律方面的诸多合规问题。商业智能机构R-Techno总经理罗曼·罗马切夫(Roman Romachev)认为,有必要为这一技术建立配套的法律依据。
  莫斯科国立法律大学教授伊戈尔·马茨克维奇(Igor Matskevich)指出,暴力行为检测系统或将威胁民众的隐私权,过于精准的识别也可能招来民众的厌恶情绪。“人们对生物识别数据的收集和分析仍然持双向态度。”
  “如何安全地存储相关数据?不排除有信息泄露的可能。”风控产品开发商SearchInform的分析部门科学主管阿列克谢·菲拉托夫(Alexey Filatov)强调。
  此前,俄罗斯警方曾使用NtechLab的人脸识别系统来追踪违反居家隔离令的人员,此举也引发了一些关于隐私的讨论。
  总部位于莫斯科的国际组织Agora和数字权利运动组织Roskomsvoboda接受外媒采访时称,在空前的疫情态势下,某些对公民权利和自由的限制是合理的。但是,必须对这些限制措施进行监管,以确保其合法性、临时性和恰当性。
  文/南都人工智能伦理课题组研究员 张弛 冯群星

页: [1]
查看完整版本: 俄国一公司打算用人脸识别检测街头暴力 专家称须注意合法性|计算机视觉|暴力|算法|合法性|人脸识别