Normas de recopilación de pruebas
Normas de recopilación de pruebas
Versión: 1.0 (2024 Release)
Alcance de aplicación
Este estándar se aplica a todas las auditorías especializadas de plataforma única, auditorías cruzadas multiplataforma e informes de gobernanza personalizados publicados por City Reputation Reports (CRR).
Para garantizar el rigor científico, la reproducibilidad y la inmutabilidad de las auditorías de narrativas urbanas, CRR aplica estrictamente los siguientes protocolos de recopilación de datos:
1. Protocolo de indicaciones estandarizado
- Neutralidad contextual: Todas las preguntas deben adoptar estructuras de oración neutrales, no orientadas y desemocionalizadas. Está estrictamente prohibido el uso de adjetivos con prejuicios preestablecidos (como "grandioso," "atrasado," etc.).
- Consistencia del marco: Al realizar comparaciones horizontales de ciudades dentro de la misma dimensión (como "narrativas gastronómicas"), los investigadores deben utilizar marcos de indicaciones idénticos, cambiando solo el nombre de la ciudad, para eliminar el sesgo algorítmico causado por diferencias en las preguntas.
- Muestreo profundo multi-ronda: La auditoría no se limita a preguntas individuales. Los investigadores deben realizar consultas de seguimiento multi-ronda según rutas lógicas preestablecidas para descubrir la lógica narrativa de la IA a nivel detallado.
2. Especificaciones de bloqueo de plataforma y modelo
- Etiquetado específico: Los informes deben etiquetar claramente el modelo de IA y su número de versión específico utilizado durante el muestreo (por ejemplo, GPT-4o, Claude 3.5 Sonnet, Gemini 1.5 Pro).
- Registro de entorno nativo: Registrar el idioma de interfaz utilizado durante el cuestionamiento. Para auditorías que involucran culturas locales específicas (como patrimonio inmaterial, gastronomía), se debe realizar un muestreo comparativo tanto en entorno de inglés como en el idioma nativo de la ciudad objetivo.
3. Protocolo de integridad de la cadena de evidencia
- Enlaces de evidencia oficiales: CRR prioriza el uso de "enlaces para compartir" proporcionados oficialmente por las plataformas de IA como evidencia central. Estos enlaces son inmutables; al hacer clic en ellos se permite revisar el diálogo original completo en el momento de la auditoría.
- Respaldo de evidencia de terceros: Si una plataforma específica no admite enlaces para compartir oficiales, los investigadores deben retener capturas de pantalla completas de la página web original con marca de tiempo y almacenarlas en el repositorio de evidencia interno del proyecto para referencia futura.
- Originalidad de datos: Los registros de auditoría deben incluir todo el contenido de salida de la IA, incluyendo pero no limitado a alucinaciones, errores factuales, discontinuidades lógicas o sesgos narrativos. Está estrictamente prohibido que los investigadores realicen cualquier forma de eliminación, collage o embellecimiento de la evidencia original.
4. Etiquetado de entorno espaciotemporal de muestreo
- Marca de tiempo de auditoría: Cada pieza de evidencia debe etiquetarse con el tiempo de muestreo preciso (UTC/GMT) para abordar las fluctuaciones narrativas causadas por actualizaciones en tiempo real de la base de conocimiento de la IA.
- Aislamiento de ubicación geográfica: A menos que se indique lo contrario, las auditorías se realizan típicamente en un entorno de red estandarizado y sin proxy, para excluir el sesgo narrativo personalizado generado por el geo-targeting algorítmico.
5. Estándares de clasificación de sesgos narrativos
Al procesar la evidencia recopilada, los investigadores deben realizar etiquetado objetivo basado en las siguientes dimensiones:
- Retraso de información: La IA cita datos de la ciudad desactualizados o información de hitos que ya no existen.
- Singularidad narrativa: La IA repite excesivamente etiquetas popularizadas, pasando por alto los activos culturales profundos de la ciudad.
- Interpretación cultural errónea: La IA confunde los orígenes, afiliaciones o características centrales de culturas similares.
- Narrativa silenciosa: Elementos culturales urbanos clave están completamente ausentes de la salida de la IA.
6. Ética de procesamiento de datos
- Desidentificación: Durante la recopilación y almacenamiento, CRR elimina estrictamente la información de cuenta que pueda involucrar la privacidad personal de los investigadores.
- Compromiso de transparencia: Cualquier institución de investigación autorizada puede reproducir los resultados de la auditoría basándose en los Prompts y Evidence Links proporcionados en el informe.