산업 AI와 신뢰할 수 있는 시스템에 대한 기록.

산업 파운데이션 모델과 에이전틱 AI는 공정 관리를 바꿔 놓을 수 있지만, 정보 보호에는 기존과 다른 종류의 구멍을 낸다. 허용된 접근 루트로 들어와 자연스럽게 정보를 흘리는 문제, 생각해 볼 수 있는 공격 유형, 그리고 사이버 시큐리티에 AI의 관점을 더한 새로운 대응 패러다임을 정리했다.

데이터와 모델을 기업의 자산으로 보호하면서도 산업 AI 모델을 개발할 수 있게 하는 Industrial Data Lake 구상. 섹터 파운데이션 모델, 이해관계자 구조와 비즈니스 모델, 독일·유럽 IPCEI-AI의 시사점, 그리고 시스템 안에 넣어야 할 데이터 보안 기능을 정리했다.

상용 AI는 이미 놀랍도록 잘 한다. 그렇다면 산업 AI 모델은 따로 필요할까? 정보 보호·비용·지속가능성이라는 세 제약을 짚고, 그 모든 걸 지속가능하게 만드는 핵심이 왜 'AI 가시성(visibility)'인지 이야기한다.

산업 파운데이션 모델이라는 말이 R&D 사업마다 등장한다. 그런데 '파운데이션'이라는 이름에 걸맞으려면 그 모델은 모든 걸 아는 전지(全知)한 모델이 아니라, 그 위에 도메인 지식을 쌓을 수 있는 반석이어야 하지 않을까.

마크다운으로 개인 지식 베이스를 만든 지 이틀 만에 한계가 보였다. Apache Jena Fuseki 위에 RDF 그래프를 올리면서 했던 결정들과 모델 비교, 그리고 결국 문서가 SoT 일 수밖에 없다는 결론.