AI 생성 코드의 보안 탐지
AI가 생성한 코드는 보안 취약점을 갖고 있습니다. 2.5배 더 높음 수동으로 작성된 코드와 비교됩니다. 이는 사소한 문제가 아닙니다. SQL 주입, 하드코딩된 비밀, 취약한 인증, 안전하지 않은 구성은 반복되는 패턴입니다. AI 보조자의 출력에서. 근본 원인은 언어 모델이 최적화된다는 것입니다. 보안이 아닌 기능을 위한 것입니다.
이 기사에서는 AI 생성 코드의 가장 일반적인 취약점을 분석합니다. 분류 OWASP 상위 10위 e CWE, 오류 패턴 AI 비서의 세부 사항과 자동 스캐닝을 구현하여 차단하는 방법 생산 전에 이러한 문제.
무엇을 배울 것인가
- AI 생성 코드에서 가장 빈번하게 발생하는 OWASP 취약점
- AI 출력의 일반적인 안전하지 않은 기본값 패턴
- 생성된 코드에서 하드코딩된 비밀과 자격 증명을 탐지하는 방법
- AI 코드를 위한 SAST(Static Application Security Testing) 기술
- AI 관련 취약점의 CWE 분류
- 파이프라인에서 자동화된 보안 검색 구현
AI 코드 맥락에서 OWASP 상위 10개
OWASP 상위 10개 분류는 가장 중요하고 널리 퍼진 웹 취약점을 나타냅니다. AI 생성 코드의 맥락에서 이러한 취약점 중 일부는 자주 나타납니다. 평균보다 훨씬 높은 수준, 특히 주입, 인증 실패 보안 구성이 잘못되었습니다.
A03:2021 - 주입
주입은 AI 생성 코드에서 가장 일반적인 취약점입니다. 언어 모델 문자열, 이스케이프되지 않은 셸 명령 및 정리되지 않은 HTML 템플릿. 이는 훈련 데이터에 다음이 포함되어 있기 때문에 발생합니다. 이러한 불안전한 패턴을 가진 수백만 개의 예.
# VULNERABILE: SQL injection tipica del codice AI
def get_user(username):
query = f"SELECT * FROM users WHERE username = '{username}'"
return db.execute(query)
# VULNERABILE: Command injection
def convert_file(filename):
import os
os.system(f"convert {filename} output.pdf")
# SICURO: Query parametrizzate
def get_user_safe(username):
query = "SELECT * FROM users WHERE username = %s"
return db.execute(query, (username,))
# SICURO: Subprocess con lista di argomenti
def convert_file_safe(filename):
import subprocess
import shlex
# Validazione del filename
if not filename.isalnum() and '.' not in filename:
raise ValueError("Invalid filename")
subprocess.run(["convert", filename, "output.pdf"],
check=True, capture_output=True)
A07:2021 - 식별 및 인증 실패
AI는 구조적 결함이 있는 인증 메커니즘인 비밀번호를 자주 생성합니다. 일반 텍스트, 만료되지 않는 세션, 예측 가능한 토큰 및 속도 제한 부족. 이것들 패턴은 AI가 프롬프트를 만족시키기 위해 적용하는 단순화에서 발생합니다. 최대한 직접적으로.
A05:2021 - 잘못된 보안 구성
안전하지 않은 구성은 AI 코드에서 만연한 문제입니다. 프로덕션에서 디버그 모드가 활성화되고 보안 헤더가 누락되었으며 TLS가 비활성화되었습니다. AI는 로컬 개발을 위한 기능적 구성을 생성하는 경향이 있습니다. 생산에 적합합니다.
AI와 인간 코드의 OWASP 취약점 빈도
| OWASP 취약점 | 휴먼 코드 빈도 | AI 코드 빈도 | CWE 관련 |
|---|---|---|---|
| A03 - 주입 | 12% | 34% | CWE-89, CWE-78, CWE-79 |
| A07 - 인증 실패 | 8% | 22% | CWE-287, CWE-798 |
| A05 - 잘못된 구성 | 15% | 41% | CWE-16, CWE-611 |
| A02 - 암호화 실패 | 6% | 18% | CWE-327, CWE-328 |
| A01 - 손상된 액세스 제어 | 10% | 15% | CWE-284, CWE-862 |
AI의 안전하지 않은 기본값 패턴
AI 코드의 가장 까다로운 문제 중 하나는 안전하지 않은 기본값: 올바르게 작동하지만 안전하지 않은 구성입니다. AI가 가장 많은 옵션을 선택합니다. 단순하고 기능적이며 보안 수준이 떨어지는 경우가 많습니다.
# Pattern di insecure defaults tipici dell'AI
# 1. CORS permissivo
from flask import Flask
from flask_cors import CORS
app = Flask(__name__)
CORS(app) # AI default: permette TUTTO. Nessuna restrizione di origin
# SICURO:
CORS(app, origins=["https://myapp.com"], methods=["GET", "POST"])
# 2. JWT senza scadenza
import jwt
token = jwt.encode({"user_id": 123}, SECRET_KEY) # Nessuna scadenza!
# SICURO:
from datetime import datetime, timedelta
token = jwt.encode(
{"user_id": 123, "exp": datetime.utcnow() + timedelta(hours=1)},
SECRET_KEY,
algorithm="HS256"
)
# 3. Hashing debole
import hashlib
password_hash = hashlib.md5(password.encode()).hexdigest() # MD5!
# SICURO:
import bcrypt
password_hash = bcrypt.hashpw(password.encode(), bcrypt.gensalt(rounds=12))
# 4. Debug mode in produzione
app.run(debug=True, host="0.0.0.0") # Espone debugger e stacktrace
# SICURO:
import os
app.run(debug=os.getenv("FLASK_DEBUG", "false").lower() == "true",
host="127.0.0.1")
하드코딩된 비밀 및 자격 증명
AI는 API 키, 데이터베이스 비밀번호 등 하드 코딩된 자격 증명을 사용하여 코드를 자주 생성합니다. 인증 토큰과 암호화 비밀을 소스 코드에 직접 입력합니다. 이것은 하나입니다 자격 증명이 버전 제어에 들어가게 되므로 가장 심각한 보안 문제 중 하나입니다. 공개 저장소나 손상된 저장소에서 추출될 수 있습니다.
# Scanner per hardcoded secrets nel codice AI
import re
from pathlib import Path
class SecretScanner:
"""Rileva credenziali hardcoded nel codice sorgente"""
PATTERNS = [
(r'(?i)(api[_-]?key|apikey)\s*[=:]\s*["\']([A-Za-z0-9_\-]{20,})["\']',
"API Key", "HIGH"),
(r'(?i)(password|passwd|pwd)\s*[=:]\s*["\']([^"\']+)["\']',
"Password", "CRITICAL"),
(r'(?i)(secret|token)\s*[=:]\s*["\']([A-Za-z0-9_\-]{16,})["\']',
"Secret/Token", "CRITICAL"),
(r'(?i)(aws_access_key_id)\s*[=:]\s*["\']?(AKIA[A-Z0-9]{16})',
"AWS Access Key", "CRITICAL"),
(r'(?i)(mongodb(\+srv)?://[^"\'\s]+)',
"Database Connection String", "HIGH"),
(r'-----BEGIN (RSA |EC )?PRIVATE KEY-----',
"Private Key", "CRITICAL"),
(r'(?i)bearer\s+[A-Za-z0-9\-._~+/]+=*',
"Bearer Token", "HIGH"),
]
def scan_file(self, filepath):
"""Scansiona un file per credenziali hardcoded"""
findings = []
content = Path(filepath).read_text()
for pattern, name, severity in self.PATTERNS:
matches = re.finditer(pattern, content)
for match in matches:
line_num = content[:match.start()].count('\n') + 1
findings.append({
"file": filepath,
"line": line_num,
"type": name,
"severity": severity,
"match": match.group(0)[:50] + "..."
})
return findings
def scan_directory(self, directory, exclude_patterns=None):
"""Scansiona ricorsivamente una directory"""
all_findings = []
exclude = exclude_patterns or [".git", "node_modules", "__pycache__"]
for path in Path(directory).rglob("*"):
if any(excl in str(path) for excl in exclude):
continue
if path.is_file() and path.suffix in [".py", ".js", ".ts", ".java", ".go"]:
all_findings.extend(self.scan_file(str(path)))
return sorted(all_findings, key=lambda x: x["severity"] == "CRITICAL",
reverse=True)
AI 관련 취약점에 대한 CWE 분류
시스템 공통 약점 열거(CWE) 표준화된 카탈로그 제공 소프트웨어 약점. AI 생성 코드의 경우 일부 CWE는 특히 관련성이 있고 반복적입니다. 이를 이해하면 보안 스캐너를 대상 방식으로 구성하는 데 도움이 됩니다.
AI 생성 코드에 대한 CWE 비판
| CWE ID | 이름 | AI 주파수 | 영향 |
|---|---|---|---|
| CWE-89 | SQL 주입 | 매우 높음 | 데이터 침해, 데이터 조작 |
| CWE-798 | 하드코딩된 자격 증명 | 높은 | 무단 액세스 |
| CWE-79 | 교차 사이트 스크립팅 | 높은 | 세션 하이재킹, 피싱 |
| CWE-327 | 깨진 암호화 알고리즘 | 평균 | 데이터 노출 |
| CWE-862 | 승인 누락 | 평균 | 권한 승격 |
| CWE-400 | 통제되지 않는 자원 | 평균 | 서비스 거부 |
AI 코드용 SAST: 도구 및 구성
Il 정적 애플리케이션 보안 테스트(SAST) 이는 1차 방어선이다. AI 생성 코드의 취약점. SAST 도구는 소스 코드를 분석하지 않고 이를 실행하여 안전하지 않은 코드 패턴, 취약한 구성 및 위반을 식별합니다. 보안 모범 사례.
# Configurazione Semgrep per codice AI-generated
# .semgrep.yml
rules:
- id: ai-sql-injection
patterns:
- pattern: |
$QUERY = f"... {$VAR} ..."
$DB.execute($QUERY)
message: "Possibile SQL injection: usa query parametrizzate"
languages: [python]
severity: ERROR
metadata:
cwe: "CWE-89"
confidence: HIGH
ai-specific: true
- id: ai-hardcoded-secret
patterns:
- pattern: |
$KEY = "..."
- metavariable-regex:
metavariable: $KEY
regex: ".*(secret|key|token|password|api_key).*"
message: "Credenziale hardcoded: usa variabili d'ambiente"
languages: [python]
severity: ERROR
metadata:
cwe: "CWE-798"
- id: ai-insecure-hash
patterns:
- pattern: hashlib.md5(...)
- pattern: hashlib.sha1(...)
message: "Algoritmo di hashing debole: usa SHA-256 o bcrypt"
languages: [python]
severity: WARNING
metadata:
cwe: "CWE-327"
보안 스캐닝 파이프라인
AI 코드에 대한 효과적인 보안 스캐닝 파이프라인에는 여러 수준의 분석이 포함되어야 합니다. 비밀 탐지(사전 커밋), SAST(CI), 종속성 검색(CI) 및 DAST(스테이징). 각 레벨은 다양한 범주의 취약성을 차단하여 심층적인 방어를 구축합니다.
권장되는 보안 검색 수준
- 사전 커밋: 커밋하기 전에 자격 증명을 잠그기 위한 git-secrets 또는 discover-secrets를 사용한 비밀 감지
- 풀 리퀘스트: 소스 코드 분석을 위한 Semgrep, CodeQL 또는 Snyk Code를 사용한 SAST
- CI 파이프라인: Sendabot, Snyk 또는 OWASP 종속성 검사를 사용한 종속성 검색
- 각색: 애플리케이션 테스트 실행을 위한 OWASP ZAP 또는 Burp Suite가 포함된 DAST
- 생산: RASP를 통한 런타임 보호 및 지속적인 취약점 모니터링
AI 관련 보안 안티 패턴
AI 코드는 일반적인 취약점 외에도 특정 보안 안티 패턴을 나타냅니다. 이는 생성 과정의 특성에서 발생합니다. 이런 패턴은 어렵습니다 기존 스캐너로 감지하고 사용자 정의 규칙이 필요합니다.
- 과도한 허용 오류 메시지: AI가 내부 시스템 세부 정보를 노출하는 오류 메시지를 생성합니다.
- 민감한 데이터 로깅: 개인 정보, 토큰 및 자격 증명이 로그에 남습니다.
- 신뢰 경계 위반: AI는 신뢰할 수 있는 입력과 신뢰할 수 없는 입력을 구분하지 않습니다.
- 경쟁 조건: AI가 적절한 동기화 없이 동시 코드를 생성합니다.
- 안전하지 않은 역직렬화: 유효성 검사 없이 pickle, eval 또는 JSON.parse 사용
자동 교정
AI 코드에서 발견된 취약점은 자동으로 수정되는 경우가 많습니다. 도구 Semgrep, CodeQL 및 Snyk와 같이 안전하지 않은 패턴을 릴리스로 바꾸는 자동 수정을 지원합니다. 안전하다. 이 접근 방식은 개발자의 부담을 줄이고 수정 주기를 가속화합니다.
자동 교정은 가장 일반적인 취약점에 특히 효과적이며, SQL 주입, 하드코딩된 비밀 및 약한 암호화 알고리즘으로 정의됩니다. 안전한 변환은 결정적이며 잘 문서화되어 있습니다.
결론
AI가 생성한 코드의 보안은 개발자의 선의에 맡길 수 없습니다. 통계에 따르면 취약점이 훨씬 더 자주 발생하고 패턴이 발생하는 것으로 나타났습니다. 오류는 예측 가능합니다. 이를 통해 효과적인 방어를 구축할 수 있습니다. 자동화된 스캐닝, 사용자 정의 규칙 및 통합 보안 파이프라인.
다음 기사에서는 지능 테스트: 테스트를 생성하는 방법 돌연변이 테스트, 속성 기반 테스트 및 퍼징을 사용하여 AI 코드에 지능적 기존 테스트에서 포착하지 못하는 결함을 발견합니다.
보안은 선택이 아니라 필수입니다. 그리고 AI 생성 코드의 경우 이 요구 사항은 커밋할 때마다 자동화되고 확인되어야 합니다.