英王查理斯三世周四在蘇格蘭Dumfries House舉行AI Summit，召集多名AI業界高層、政府官員及民間代表，討論人工智能安全及未來發展。出席者包括英偉達首席執行官黃仁勳、Google DeepMind首席執行官Demis Hassabis、OpenAI首席財務官Sarah Friar，以及Anthropic全球事務主管Tino Cuéllar。查理斯在會上警告，AI若落入錯誤的人手，可能被用於災難性用途，甚至帶來生存威脅，並問業界是否應在太遲之前建立足夠控制措施。黃仁勳則主張以「負責任的樂觀」(responsible optimism)發展AI，認為現階段出現的事故，核心問題並非監管不足，而是有產品尚未準備好便推出。黃仁勳表示，開發AI的企業有責任嚴格測試系統、保障私隱、防止濫用，以及保護社會依賴的基礎設施。他認為，安全本身屬於工程問題，產品未準備好，就不應交到公衆手上。