前谷歌研究员创办Sampura，拟开发AI“裁判”系统并获650万美元融资

由前谷歌(Google)研究员创办的非营利组织Sampura Research，旨在打造人机混合的“裁判”系统，以监督AI安全并防止模型失控。该项目已筹集650万美元资金，并获得420万美元的额外承诺投资。与全自动化监控方案不同，该组织强调人类监督在AI安全中的必要性。