@JH_929292 Thanks for laying it out. The receipt analogy is spot on. Reply to @JH_929292: 내가 돈 내고 쓰는 AI, 사실은 다른 모델이 답변하고 있었다면? 최신 AI 모델을 사용하려고 매달 구독료를 내고 있는데, 실제로는 훨씬 저렴한 다른 모델이 답변하고 있었다면 어떨까요? 더 황당한 건 우리가 그 사실을 알아채기 어렵다는 겁니다 화면에는 분명 최신 모델이라고 표시돼 있지만, 실제 어떤 AI가 답변했는지 직접 확인할 방법은 마땅치 않으니까요 그런데 최근 Claude를 개발한 @AnthropicAI 이 이 문제와 관련된 연구를 발표했습니다 여기서 반가운 이름이 등장했는데요? 바로 @lagrangedev 의 DeepProve입니다 Anthropic 연구에 등장한 DeepProve! : Anthropic은 11월 2일 공개한 연구에서 DeepProve를 이렇게 소개했습니다 DeepProve, the current peer-reviewed state of the art 쉽게 말해 동료 연구자들의 검토를 거친 기존 연구 중 가장 앞선 기술이라는 평가입니다 DeepProve는 AI 모델의 내부 정보를 공개하지 않고도 특정 모델이 실제로 답변을 생성했는지 수학적으로 확인할 수 있도록 하는 기술입니다 Anthropic이 이번에 공개한 FlashProve 역시 이러한 검증을 더 효율적으로 수행하기 위한 연구이고요 다만 세계적인 AI 기업이 발표한 공식 연구에서 Lagrange의 기술이 주요 선행 연구로 소개됐다는 점은 꽤 반가웠습니다 AI의 답변을 어디까지 믿을 수 있을까요? 생각해보면 우리는 물건을 구매하면 영수증을 받고, 돈을 보내면 거래 내역을 확인합니다 그런데 AI가 만든 결과물은 대부분 별다른 확인 없이 사용하고 있죠 앞으로 AI가 코드를 실행하거나 금융 거래를 처리하는 등 더 많은 일을 맡게 된다면 상황은 조금 달라질 것 같습니다 어떤 모델이 실제로 작업했는지, 약속된 방식으로 계산했는지 확인할 방법이 필요할 테니까요 물론 증명이 있다고 해서 AI의 답변이 무조건 정답이라는 뜻은 아닙니다 하지만 적어도 어떤 모델이 해당 답변을 생성했는지는 검증할 수 있다는 점에서 의미가 있다고 생각합니다 앞으로가 기대 됩니다! 이번 Anthropic의 발표를 보면서 Lagrange가 연구해 온 방향이 다른 AI 연구에서도 중요하게 다뤄지고 있다는 걸 느꼈습니다 AI의 성능이 좋아지는 만큼 그 결과를 확인하는 기술도 필요해질 텐데요 앞으로 DeepProve가 실제 서비스에서 어떻게 활용될지? Lagrange가 어떤 성과를 보여줄지 지켜보고 싶습니다 어쩌면 나중에는 AI가 답변을 줄 때 그 답변을 어떤 모델이 만들었는지 확인할 수 있는 증명도 함께 받는 게 익숙해질지 모르겠습니다!