Las empresas utilizan el aprendizaje automático para reconocer patrones y luego hacer predicciones sobre lo que atraerá a los clientes, mejorará las operaciones o ayudará a mejorar un producto. Sin embargo, antes de poder construir una estrategia en torno a tales predicciones, debe comprender las entradas necesarias para el proceso de predicción, los desafíos involucrados en obtener esas entradas y el papel de la retroalimentación para permitir que un algoritmo haga mejores predicciones a lo largo del tiempo.
Una predicción, en el contexto del aprendizaje automático, es una salida de información que proviene de ingresar algunos datos y ejecutar un algoritmo. Por ejemplo, cuando su aplicación de navegación móvil ofrece una predicción sobre la mejor ruta entre dos puntos, utiliza datos de entrada sobre las condiciones del tráfico, los límites de velocidad, el tamaño de la carretera y otros factores. Luego, se emplea un algoritmo para predecir el camino más rápido a seguir y el tiempo que tomará.
El desafío clave con cualquier proceso de predicción es que los datos de capacitación, las entradas que necesita para comenzar a obtener resultados razonables, deben ser creados (por ejemplo, contratando expertos para clasificar las cosas) o adquiridos de fuentes existentes (por ejemplo, registros de salud ). Algunos tipos de datos son fáciles de adquirir de fuentes públicas (piense en información meteorológica y cartográfica). Los consumidores también pueden proporcionar voluntariamente datos personales si perciben un beneficio al hacerlo. Los usuarios de Fitbit y Apple Watch, por ejemplo, permiten a las empresas recopilar métricas sobre su nivel de ejercicio, ingesta de calorías, etc., a través de dispositivos que los usuarios usan para controlar su salud y estado físico.
Sin embargo, obtener datos de entrenamiento para permitir predicciones puede ser difícil si requiere la cooperación de un gran número de personas que no se benefician directamente de proporcionarlos. Por ejemplo, una aplicación de navegación puede recopilar datos sobre las condiciones del tráfico rastreando a los usuarios y obteniendo informes de ellos. Esto permite que la aplicación identifique ubicaciones probables de atascos y alertar a otros conductores que se dirigen hacia ellos. Pero los conductores que ya están atrapados en los gruñidos obtienen una pequeña recompensa directa al participar, y pueden sentirse preocupados por la idea de que la aplicación sepa dónde están en cualquier momento (y potencialmente está grabando sus movimientos). Si las personas en atascos de tráfico se niegan a compartir sus datos o realmente apagan sus geolocalizadores, la capacidad de la aplicación para advertir a los usuarios de problemas de tráfico se verá comprometida.
Otro desafío puede ser la necesidad de actualizar periódicamente los datos de entrenamiento. Esto no siempre es un problema; no se aplicará si el contexto básico en el que se hizo la predicción permanece constante. La radiología, por ejemplo, analiza la fisiología humana, que generalmente es coherente de persona a persona y a lo largo del tiempo. Por lo tanto, después de cierto punto, el valor marginal de un registro adicional en la base de datos de entrenamiento es casi cero. Sin embargo, en otros casos, es posible que los algoritmos deban actualizarse con frecuencia con datos completamente nuevos que reflejen los cambios en el entorno subyacente. Con aplicaciones de navegación, por ejemplo, nuevas carreteras o rotondas, calles renombradas y cambios similares harán que las predicciones de la aplicación sean menos precisas con el tiempo, a menos que se actualicen los mapas que forman parte de los datos de entrenamiento iniciales.
En muchas situaciones, los algoritmos se pueden mejorar continuamente mediante el uso de datos de retroalimentación, que se obtienen mapeando los resultados reales con los datos de entrada que generaron predicciones de esos resultados. Esta herramienta es particularmente útil en situaciones en las que puede haber una variación considerable dentro de límites claramente definidos. Por ejemplo, cuando tu teléfono usa una imagen tuya por seguridad, inicialmente habrás entrenado el teléfono para que te reconozca. Pero tu rostro puede cambiar significativamente. Puede que esté usando anteojos o no. Es posible que se haya hecho un nuevo peinado, se haya maquillado o haya ganado o perdido peso. Por lo tanto, la predicción de que es usted puede volverse menos confiable si el teléfono se basa únicamente en los datos de entrenamiento iniciales. Pero lo que realmente sucede es que el teléfono actualiza su algoritmo usando todas las imágenes que usted proporciona cada vez que lo desbloquea.
La creación de este tipo de ciclos de retroalimentación está lejos de ser sencilla en contextos dinámicos y donde la retroalimentación no se puede categorizar y obtener fácilmente. Los datos de retroalimentación para la aplicación de reconocimiento facial del teléfono inteligente, por ejemplo, crean mejores predicciones solo si la única persona que ingresa los datos faciales es el propietario del teléfono. Si otras personas se parecen lo suficiente como para acceder al teléfono y continuar usándolo, la predicción del teléfono de que el usuario es el propietario se vuelve poco confiable.
También puede ser peligrosamente fácil introducir sesgos en el aprendizaje automático, especialmente si están en juego múltiples factores. Suponga que un prestamista utiliza un proceso habilitado por IA para evaluar el riesgo crediticio de los solicitantes de préstamos, considerando su nivel de ingresos, historial de empleo, características demográficas, etc. Si los datos de entrenamiento para el algoritmo discriminan a cierto grupo, digamos, personas de color, el ciclo de retroalimentación perpetuará o incluso acentuará ese sesgo, haciendo cada vez más probable que los solicitantes de color sean rechazados. La retroalimentación es casi imposible de incorporar de manera segura en un algoritmo sin parámetros cuidadosamente definidos y fuentes confiables e imparciales.
0 comments: