Safe Superintelligence是什么？AI 能否既先进又安全？

安全超级智能公司（Safe Superintelligence Inc.，简称SSI）是一家人工智能（AI）公司，由伊利亚·苏茨克维（Ilya Sutskever）、丹尼尔·格罗斯（Daniel Gross）和丹尼尔·利维（Daniel Levy）于2024 年6 月创立。该公司的目标是开发超越人类智能的AI 系统，同时确保其安全性，并使其符合人类价值观。本文将探讨SSI 的目标、领导团队及其对AI 未来的潜在影响。

SSI 的创始人是谁？

SSI 由伊利亚·苏茨克维、丹尼尔·格罗斯和丹尼尔·利维联合创立。

伊利亚·苏茨克维：前OpenAI 首席科学家。

丹尼尔·格罗斯：前苹果AI 负责人，曾任Y Combinator 合伙人。

丹尼尔·利维：投资人兼AI 研究员。

三位创始人的专业背景使SSI 成为AI 安全领域的重要参与者。

SSI 的目标是什么？

SSI 旨在打造“安全超级智能”，即开发既高度智能又符合人类价值观的AI 系统。这一双重目标使SSI 有别于其他更注重技术突破的AI 公司。

SSI 如何融资？

2024 年9 月，SSI 从红杉资本（Sequoia Capital）、Andreessen Horowitz 和SV Angel 等投资方筹集了10 亿美元，估值达到50 亿美元。到2025 年2 月，SSI 正在洽谈新一轮融资，预计估值至少为200 亿美元，显示出投资者对其愿景的高度认可。

SSI 面临哪些挑战？

虽然SSI 注重AI 安全，但开发超级智能AI 仍然面临重大技术和伦理挑战。随着AI 不断进步，如何确保其始终符合人类价值观，将是一个复杂且长期存在的问题。

结论

安全超级智能公司（SSI）在推动先进AI 技术的同时，也注重AI 的安全性和伦理问题。凭借经验丰富的领导团队和强大的资金支持，SSI 有望在AI 安全领域作出重要贡献。然而，这一过程充满挑战，SSI 的成功将取决于其在创新与道德考量之间找到平衡的能力。