AIとデータ安全―知能化社会の新たな挑戦　北京市で「2025 TechWorldスマートセキュリティ大会」開催

【東方新報】デジタル化とAI化が加速する現代、セキュリティの境界は広がり続け、技術の進歩が産業構造の新たな転換を促している。このほど北京市で「2025 TechWorldスマートセキュリティ大会」が開催され、政府や大学、研究機関、企業などから専門家や業界関係者が集まり、AIの安全性やデータ保護、サイバー攻防のあり方などをテーマに議論が行われた。参加者は、AI時代のセキュリティの仕組みと今後の方向性について意見を交わした。

　主催する緑盟科技（NSFOCUS）にとって、この大会は13年連続の開催となり、中国のサイバーセキュリティ分野では毎年恒例の重要イベントに位置づけられている。同社の董事長兼総裁・胡忠華（Hu Zhonghua）氏は、「今回の大会はデジタル知能時代におけるセキュリティの新たな枠組みを考える場として、技術交流や共同イノベーションを促進し、ネットワークセキュリティ産業の質の高い発展を後押しすることを目的としている」と語った。

　胡氏によると、同社は「データ」と「知能」を中核に据え、AI安全、データ安全、実戦的な攻防対策の3分野に重点を置いている。データ安全の領域では「識別―保護―流通―ガバナンス」を軸とした仕組みを整備し、データの活用や共有の過程で安全性とコンプライアンスを確保することで、デジタル経済の基盤を強化しているという。

　中国電子情報産業発展研究院の副総工程師でロシア自然科学院の外国籍院士でもある劉権（Lin Quan）氏は、中国が重要なデジタル技術の開発と応用を進め、産業のデジタル化を推進することで、デジタル経済の競争力を高めていると述べた。

　劉氏は、「デジタル経済は『デジタル産業化』から『産業のデジタル化』へと移行しつつあり、製造、サービス、技術応用、人材育成、効率化など幅広い分野で、デジタル技術と実体経済が一体化してきている」と指摘した。また劉氏は、データガバナンスの充実がデータの安全な活用と円滑な流通の鍵になると強調した。法令順守、安全性、価値の転換を総合的に進めることで、データの潜在力を引き出し、デジタル経済の持続的な成長につなげる必要があると述べた。

　人工知能は今や、世界の技術競争を左右する重要な分野となっている。騰訊雲（テンセントクラウド、Tencent Cloud）副総裁で玄武実験室責任者の于暘（Yu Yang）氏は、「大規模AIモデルの登場でAIは『感じる』や『理解する』段階から、『創り出し、判断する』段階へと進化した」と説明した。AIはすでにタスクの計画、知識推論、エージェント間の協働といった能力を持ち、ソフトウェアとハードウェアが相互に進化することで、プログラミングやデータ分析、安全防御などの分野でも大きな進歩を遂げているという。

　于氏は「AIが進化すれば、AIセキュリティの課題も同時に始まる」と警鐘を鳴らす。大規模モデルの活用が広がる中で、AIシステムには「プロンプト注入」や「安全でないモデルの読み込み」「データ解析」「動的コード実行」といった新しいリスクが現れている。また、従来からの「コマンドインジェクション」や「アクセス制御」などの脆弱性も依然として残っており、モデル層からアプリ層まで、すべての段階で対策が求められている。

　電力業界の視点からは、中国国家電網（SGCC）の元副総情報師・王繼業（Wang Jiye）氏が登壇した。王氏は、AIが「認識と理解」から「生成と創造」へと発展し、産業構造を大きく変えつつあると指摘。電力分野では、共通のAI基盤モデルに業界データを組み合わせて学習させ、電力業界に特化した大規模モデルの開発を進めているという。

　国家電網は「光明電力モデル」、南方電網は「大ワット」、国家能源集団は「擎源（けいげん）」といったAIモデルを構築し、電力システムとエネルギー構造の高度化を推進している。王氏は「AIの安全性を、重要インフラを守るセキュリティシステム全体の中に位置づけ、アルゴリズム、データセット、プラットフォーム、AIエージェントを含めた総合的な防御体制を整えるべきだ」と述べた。その上で、評価や警戒体制、攻防演習、エコシステムの構築を通じ、安全で持続可能なデジタル変革を実現すべきだと強調した。

　専門家の間では、「大規模モデルの登場によって、セキュリティの攻防は新たな『知能の駆け引き』の段階に入った」との見方が広がっている。AI時代の防御には、「AIでAIを制する」――つまり「以模治模（モデルでモデルを制御する）」という発想が欠かせない。

　緑盟科技の攻防部門責任者・陳永泉（Chen Yongquan）氏は講演で、「AI時代の安全対策の中心はすでに大規模モデルに移っている」と語った。業界が直面しているリスクは、コンテンツ安全、ネットワーク安全、計算リソースの安全、データ安全、モデル安全の五つに分けられ、特にプロンプト注入やデータ漏洩が深刻化している。

　同社は「AIでAIを防ぐ」という理念のもと、コンテンツ、データ、計算リソース、業務の4分野でセキュリティAIを構築し、大規模モデルの安全評価と防御の仕組みを整えている。AI時代の新しいセキュリティ基盤として、防御の要となることを目指している。【翻訳編集】東方新報/AFPBB News｜使用条件