블로그

Jun 22, 2023

도시 조달의 AI: 피해야 할 5가지 함정

시 행정부는 인공 지능(AI)과 같은 최신 기술을 시스템에 통합하는 것을 고려할 때 조달 절차에서의 활용을 신중하게 고려해야 합니다. 일체 포함

시 행정부는 인공 지능(AI)과 같은 최신 기술을 시스템에 통합하는 것을 고려할 때 조달 절차에서의 활용을 신중하게 고려해야 합니다. AI는 유익할 수 있는 강력하고 새로운 도구이지만 공공 기관이 직면해야 하는 윤리적 및 보안 문제도 함께 제공됩니다. 조달에 AI 사용을 고려할 때 피해야 할 5가지 잠재적 함정은 다음과 같습니다.

1.기술 의존도: 조달에 AI를 사용하면 효율성이 크게 향상되고 프로세스가 간소화될 수 있습니다. 예를 들어, 간단한 권유에 대한 사양을 작성하거나 입찰을 평가하는 데 사용할 수 있어 필요한 시간과 리소스를 줄일 수 있습니다. 하지만 AI가 생성하는 정보가 항상 정확한 것은 아니기 때문에 시 공무원이 이 기술에 너무 많이 의존하면 조달 과정에서 잠재적인 오류가 발생할 수 있습니다. AI로 작성된 사양이 아무리 정확하더라도 게시되기 전에 도시별 요구 사항을 평가하려면 지식이 풍부한 조달 직원이 필요합니다.

2. 보안 문제: AI는 기계 학습 알고리즘과 실시간 데이터 분석을 활용하여 정보 기술(IT) 구매의 잠재적인 취약성을 식별함으로써 조달 보안을 향상시키는 데 도움을 줄 수 있습니다. IT 구매에서 잠재적인 문제를 감지하면 도시는 인식하지 못했을 수도 있는 사이버 보안 문제를 사전에 해결할 수 있습니다. 그러나 AI 기반 도구에는 자체적으로 취약점이 있으며 숙련된 사이버 범죄자가 이를 악용하여 잠재적으로 보안 위협으로 이어질 수 있습니다. 도시 IT 부서는 조달 직원과 협력하여 민감한 정보를 보호하고 도시 시스템의 무결성을 보장하기 위한 강력한 보안 조치를 구현해야 합니다.

삼.편견과 차별: 불행하게도 AI 기반 도구는 의식적, 무의식적 편견을 지닌 불완전한 인간에 의해 프로그래밍되었기 때문에 조달 시 비윤리적 차별이 영속될 수 있습니다. 특정 알고리즘은 사회적, 지리적, 경제적 편견을 반영하는 편향으로 프로그래밍되어 특정 공급업체나 제품을 부당하게 대우할 수 있습니다. 예를 들어, AI로 생성된 권유가 모든 지역의 공급업체에 공개되었지만 조달 담당자가 해당 정보를 포함하기 위해 사양을 검토하지 않는 경우, 도시 경계를 넘어선 잠재적 공급업체는 자신의 입찰이 고려되지 않을 것이라고 잘못 믿을 수 있습니다. 도시 조달 담당자는 AI가 생성한 모든 것을 주의 깊게 조사하여 모든 조달이 도시의 윤리 기준을 준수하는지 확인해야 합니다.

4. 비용 초과: AI를 사용하면 조달 직원이 시장 조사 과정에서 보다 비용 효율적인 솔루션을 식별할 수 있도록 지원함으로써 상당한 비용 절감을 가져올 수 있습니다. 그러나 제대로 관리하지 않으면 비용 초과가 발생할 수도 있습니다. AI 기반 도구는 처음에는 저렴해 보이지만 실제로는 장기적으로 비용 효율적이지 않을 수 있는 솔루션을 추천할 수 있습니다. AI 기반 도구는 특정 솔루션에 기술 발전에 따라 필요한 유지 관리 또는 업그레이드 비용이 있다는 점을 고려하지 않습니다. 예를 들어 아이폰을 생각해 보세요. iPhone의 첫 번째 버전에서는 최신 iOS를 실행할 수 없으므로 해당 제품을 계속 사용하려면 하드웨어 업그레이드가 필요합니다. 시 조달 담당자는 AI 권장 사항을 신중하게 평가하여 예산 및 조달 목표와 일치하는지 확인해야 합니다.

5. 이해 부족: 일상적인 도구로서의 AI는 여전히 상대적으로 새롭고 끊임없이 진화하고 있습니다. 얼리 어답터라도 이해하지 못하는 것들이 많습니다. 공공 조달 영역에서 신기술이 다소 느리게 채택되는 경향이 있다는 점을 감안할 때, 도시 조달 직원은 AI를 효과적으로 사용하는 데 대한 이해가 부족할 수 있습니다. AI 알고리즘은 기술에 가장 능숙한 사용자라도 해석하기 어려울 수 있으며, 조달 직원은 일상에서 알고리즘의 작동 방식을 심층적으로 이해할 시간이 없을 수도 있습니다. 시 행정부는 AI 기반 도구나 AI 생성 문서를 정책, 절차 및 출판물에 구현하기 전에 철저한 교육 프로그램을 고안하고 구현해야 합니다.