Rohan Paul

Anthropic 在其 IPO 文件中告诉投资者，公司内部人士也担心先进的人工智能可能会给人类带来灾难性或生存风险。 在同一份文件中，该公司警告称，1,300% 的增长率不会持续下去，并且根本无法承诺收入将继续增长。 > “此外，鉴于灾难性人工智能相关事件可能造成的损害规模，没有任何一家保险公司，甚至可能是整个保险业，可能有足够的能力或专业知识来承保与此类风险相称的保险。” > “我们组织内部以及其他研究人员、监管机构、政策制定者和行业参与者都提出了担忧，即足够先进的人工智能系统如果没有在适当的保障、监督和安全措施下开发、部署和运行，可能会给人类带来灾难性或生存风险，特别是如果这些系统被滥用、复制、武器化或允许高度自治运行。” > “我们可能会因与我们的人工智能模型相关的损害而面临责任、诉讼和监管行动，而且我们的合同保护和保险可能不足，任何这些都可能对我们的业务、财务状况和运营业绩产生不利影响。”