Gracias por enviar su consulta! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Gracias por enviar su reserva! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Temario del curso
Cada sesión tiene una duración de 2 horas
Día-1: Sesión-1: Descripción general empresarial del porqué del Business Intelligence de Big Data en el Gobierno
- Estudios de caso de NIH, DoE
- Tasa de adopción de Big Data en Agencias Gubernamentales y cómo están alineando sus operaciones futuras alrededor del Análisis Predictivo con Big Data
- Área amplia de aplicación en DoD, NSA, IRS, USDA, etc.
- Interfaz entre Big Data y datos legados
- Comprensión básica de las tecnologías habilitadoras en el análisis predictivo
- Integración de datos y visualización de cuadros de mando (dashboards)
- Gestión de fraude
- Generación de reglas comerciales/detección de fraude
- Detección de amenazas y perfiles
- Análisis costo-beneficio para la implementación de Big Data
Día-1: Sesión-2: Introducción al Big Data-1
- Características principales del Big Data: volumen, variedad, velocidad y veracidad. Arquitectura MPP para el volumen.
- Almacenes de datos (Data Warehouses) – esquema estático, conjunto de datos que evoluciona lentamente
- Bases de datos MPP como Greenplum, Exadata, Teradata, Netezza, Vertica, etc.
- Soluciones basadas en Hadoop – sin restricciones sobre la estructura del conjunto de datos.
- Patrón típico: HDFS, MapReduce (procesamiento), recuperación desde HDFS
- Lote (Batch) – adecuado para análisis/no interactivo
- Volumen: Flujo de datos CEP
- Opciones típicas – productos CEP (ej. Infostreams, Apama, MarkLogic, etc.)
- Menos listos para producción – Storm/S4
- Bases de datos NoSQL – (columnar y clave-valor): Más adecuadas como complemento analítico al almacén de datos/base de datos
Día-1: Sesión-3: Introducción al Big Data-2
Soluciones NoSQL
- Almacenamiento KV (Clave-Valor) - Keyspace, Flare, SchemaFree, RAMCloud, Oracle NoSQL Database (OnDB)
- Almacenamiento KV - Dynamo, Voldemort, Dynomite, SubRecord, MongoDB, DovetailDB
- Almacenamiento KV (Jerárquico) - GT.m, Cache
- Almacenamiento KV (Ordenado) - TokyoTyrant, Lightcloud, NMDB, Luxio, MemcacheDB, Actord
- Caché KV - Memcached, Repcached, Coherence, Infinispan, EXtremeScale, JBossCache, Velocity, Terracotta
- Almacenamiento de tuplas (Tuple Store) - Gigaspaces, Coord, Apache River
- Bases de datos de objetos - ZopeDB, DB40, Shoal
- Almacenamiento de documentos - CouchDB, Cloudant, Couchbase, MongoDB, Jackrabbit, Bases de datos XML, ThruDB, CloudKit, Presto (assumed correction from Prsevere contextually or kept as is if strict), Riak-Basho, Scalaris
- Almacenamiento de columnas anchas (Wide Columnar Store) - BigTable, HBase, Apache Cassandra, Hypertable, KAI, OpenNeptune, Qbase, KDI
Variedades de Datos: Introducción al problema de limpieza de datos en Big Data
- RDBMS – estructura/esquema estático, no promueve un entorno ágil y exploratorio.
- NoSQL – semiestructurado, tiene suficiente estructura para almacenar datos sin un esquema exacto previo al almacenamiento
- Problemas de limpieza de datos
Día-1: Sesión-4: Introducción al Big Data-3: Hadoop
- ¿Cuándo seleccionar Hadoop?
- ESTRUCTURADO - Los almacenes/bases de datos de datos empresariales pueden almacenar datos masivos (a un costo) pero imponen estructura (no bueno para exploración activa)
- Datos SEMIESTRUCTURADOS – difíciles de manejar con soluciones tradicionales (DW/DB)
- Almacenamiento de datos = ESFUERZO ENORME y estático incluso después de la implementación
- Para variedad y volumen de datos, procesados en hardware commodity – HADOOP
- Se necesita hardware commodity para crear un clúster de Hadoop
Introducción a MapReduce /HDFS
- MapReduce – distribuir el cómputo entre múltiples servidores
- HDFS – hacer los datos disponibles localmente para el proceso de cómputo (con redundancia)
- Datos – pueden ser no estructurados/sin esquema (a diferencia de RDBMS)
- Responsabilidad del desarrollador para dar sentido a los datos
- Programación MapReduce = trabajar con Java (pros/contras), cargar manualmente los datos en HDFS
Día-2: Sesión-1: Ecosistema de Big Data-Construyendo un ETL de Big Data: universo de herramientas de Big Data, ¿cuáles usar y cuándo?
- Hadoop vs. Otras soluciones NoSQL
- Para acceso interactivo y aleatorio a los datos
- Hbase (base de datos orientada a columnas) sobre Hadoop
- Acceso aleatorio a los datos pero con restricciones impuestas (máx 1 PB)
- No bueno para análisis ad-hoc, bueno para registros, conteo, series temporales
- Sqoop - Importar desde bases de datos a Hive o HDFS (acceso JDBC/ODBC)
- Flume – Transmitir datos (ej. datos de registro) a HDFS
Día-2: Sesión-2: Sistema de Gestión de Big Data
- Componentes móviles, nodos de cómputo inician/fallan: ZooKeeper - Para servicios de configuración/coordinación/naming
- Pipeline/flujo de trabajo complejo: Oozie – gestionar flujo de trabajo, dependencias, cadena margarita
- Desplegar, configurar, gestión de clústeres, actualizaciones, etc. (sys admin): Ambari
- En la Nube: Whirr
Día-2: Sesión-3: Análisis predictivo en Business Intelligence -1: Técnicas Fundamentales y BI basado en Aprendizaje Automático:
- Introducción al aprendizaje automático (Machine Learning)
- Aprendizaje de técnicas de clasificación
- Predicción Bayesiana-preparación del archivo de entrenamiento
- Máquina de Vectores de Soporte (SVM)
- KNN p-Tree Álgebra y minería vertical
- Red Neuronal
- Problema de grandes variables en Big Data - Bosque Aleatorio (RF)
- Problema de automatización en Big Data – Conjunto multifusión de RF (Multi-model ensemble RF)
- Automatización a través de Soft10-M
- Herramienta de análisis de texto-Treeminer
- Aprendizaje ágil
- Aprendizaje basado en agentes
- Aprendizaje distribuido
- Introducción a herramientas de código abierto para análisis predictivo: R, RapidMiner, Mahout
Día-2: Sesión-4 Ecosistema de análisis predictivo-2: Problemas comunes de análisis predictivo en el Gobierno
- Análisis insightful
- Visualización analítica
- Análisis predictivo estructurado
- Análisis predictivo no estructurado
- Perfiles de amenaza/fraude/proveedores
- Motor de recomendación
- Detección de patrones
- Descubrimiento de reglas/escenarios – fracaso, fraude, optimización
- Descubrimiento de la causa raíz
- Análisis de sentimiento
- Análisis CRM
- Análisis de redes
- Análisis de texto
- Revisión asistida por tecnología
- Análisis de fraude
- Análisis en tiempo real
Día-3: Sesión-1 : Análisis en Tiempo Real y Escalable sobre Hadoop
- Por qué fallan los algoritmos analíticos comunes en Hadoop/HDFS
- Apache Hama- para cómputo distribuido síncrono masivo
- Apache SPARK- para cómputo de clústeres para análisis en tiempo real
- CMU Graphics Lab2- Enfoque asíncrono basado en grafos para cómputo distribuido
- Enfoque basado en p-Algebra KNN desde Treeminer para reducir el costo de operación de hardware
Día-3: Sesión-2: Herramientas para Descubrimiento Electrónico (eDiscovery) y Forense
- eDiscovery sobre Big Data vs. datos legados – una comparación de costo y rendimiento
- Codificación predictiva y revisión asistida por tecnología (TAR)
- Demostración en vivo de un producto TAR (vMiner) para entender cómo funciona TAR para un descubrimiento más rápido
- Indexación más rápida a través de HDFS – velocidad de los datos
- PNL o Procesamiento del Lenguaje Natural – diversas técnicas y productos de código abierto
- eDiscovery en idiomas extranjeros-tecnología para procesamiento de idiomas extranjeros
Día-3: Sesión 3: Big Data BI para Seguridad Cibernética – Entendiendo vistas completas de 360 grados desde la rápida recopilación de datos hasta la identificación de amenazas
- Comprensión de los fundamentos del análisis de seguridad-superficie de ataque, mala configuración de seguridad, defensas del host
- Infraestructura de red / gran tubería de datos / ETL de respuesta para análisis en tiempo real
- Predictivo prescriptivo vs. predictivo – reglas fijas basadas en reglas vs. descubrimiento automático de reglas de amenaza desde metadatos
Día-3: Sesión 4: Big Data en USDA : Aplicación en Agricultura
- Introducción a IoT (Internet de las Cosas) para agricultura-sensores basados en Big Data y control
- Introducción a la imagen satelital y su aplicación en la agricultura
- Integración de datos de sensores e imágenes para fertilidad del suelo, recomendaciones de cultivo y pronósticos
- Seguro agrícola y Big Data
- Pronóstico de pérdida de cultivos
Día-4 : Sesión-1: Prevención de Fraude BI desde Big Data en el Gobierno-Análisis de Fraude:
- Clasificación básica del análisis de fraude-análisis basado en reglas vs. predictivo
- Aprendizaje supervisado vs no supervisado para detección de patrones de fraude
- Fraude de proveedores/sobrecobro por proyectos
- Fraude en Medicare y Medicaid-técnicas de detección de fraude para procesamiento de reclamaciones
- Fraudes de reembolso de viajes
- Fraudes de reembolso del IRS
- Estudios de caso y demostración en vivo se brindarán siempre que haya datos disponibles.
Día-4 : Sesión-2: Análisis de Redes Sociales - Recopilación y análisis de inteligencia
- API ETL de Big Data para extraer datos de redes sociales
- Texto, imagen, metadatos y video
- Análisis de sentimiento desde el feed de redes sociales
- Filtrado contextual y no contextual del feed de redes sociales
- Dashboard de Redes Sociales para integrar diversas redes sociales
- Perfilación automatizada de perfiles de redes sociales
- Demostración en vivo de cada análisis se brindará a través de la herramienta Treeminer.
Día-4 : Sesión-3: Análisis de Big Data en procesamiento de imágenes y flujos de video
- Técnicas de almacenamiento de imágenes en Big Data-Solución de almacenamiento para datos que exceden petabytes
- LTFS y LTO
- GPFS-LTFS (Solución de almacenamiento en capas para datos de imagen grandes)
- Fundamentos del análisis de imágenes
- Reconocimiento de objetos
- Segmentación de imágenes
- Rastreo de movimiento
- Reconstrucción de imagen 3-D
Día-4: Sesión-4: Aplicaciones de Big Data en NIH:
- Áreas emergentes de la bioinformática
- Metagenómica y problemas de minería de datos masivos
- Análisis predictivo con Big Data para Farmacogenómica, Metabolómica y Proteómica
- Big Data en el proceso genómico posterior
- Aplicación del análisis predictivo de Big Data en Salud Pública
Dashboard de Big Data para acceso rápido a datos diversos y visualización :
- Integración de la plataforma de aplicaciones existente con Dashboard de Big Data
- Gestión de Big Data
- Caso de Estudio de Dashboard de Big Data: Tableau y Pentaho
- Uso de aplicaciones de Big Data para impulsar servicios basados en ubicación en el Gobierno
- Sistema de seguimiento y gestión
Día-5 : Sesión-1: Cómo justificar la implementación de BI de Big Data dentro de una organización:
- Definición de ROI para la implementación de Big Data
- Estudios de caso para ahorrar tiempo del analista en la recopilación y preparación de datos – aumento en la ganancia de productividad
- Estudios de casos de ganancia de ingresos al ahorrar el costo de bases de datos con licencia
- Ganancia de ingresos por servicios basados en ubicación
- Ahorros por prevención de fraude
- Un enfoque integrado de hojas de cálculo para calcular aproximadamente el gasto vs. la ganancia/ahorro de ingresos de la implementación de Big Data.
Día-5 : Sesión-2: Procedimiento paso a paso para reemplazar sistemas de datos legados por sistemas de Big Data:
- Comprensión del mapa de ruta práctico de migración de Big Data
- ¿Qué información importante se necesita antes de arquitectura una implementación de Big Data?
- ¿Cuáles son las diferentes formas de calcular volumen, velocidad, variedad y veracidad de los datos?
- ¿Cómo estimar el crecimiento de datos?
- Estudios de caso
Día-5: Sesión 4: Revisión de proveedores de Big Data y reseña de sus productos. Sesión de preguntas y respuestas:
- Accenture
- APTEAN (anteriormente CDC Software)
- Cisco Systems
- Cloudera
- Dell
- EMC
- GoodData Corporation
- Guavus
- Hitachi Data Systems
- Hortonworks
- HP
- IBM
- Informatica
- Intel
- Jaspersoft
- Microsoft
- MongoDB (anteriormente 10Gen)
- MU Sigma
- Netapp
- Opera Solutions
- Oracle
- Pentaho
- Platfora
- Qliktech
- Quantum
- Rackspace
- Revolution Analytics
- Salesforce
- SAP
- SAS Institute
- Sisense
- Software AG/Terracotta
- Soft10 Automation
- Splunk
- Sqrrl
- Supermicro
- Tableau Software
- Teradata
- Think Big Analytics
- Tidemark Systems
- Treeminer
- VMware (parte de EMC)
Requerimientos
- Conocimiento básico del funcionamiento empresarial y de los sistemas de datos en el gobierno dentro de su dominio
- Comprensión básica de SQL/Oracle o bases de datos relacionales
- Comprensión básica de Estadística (a nivel de hojas de cálculo)
35 Horas
Reseñas (1)
La capacidad del formador de alinear el curso con los requisitos de la organización, y no solo proporcionarlo por el mero hecho de impartirlo.
Masilonyane - Revenue Services Lesotho
Curso - Big Data Business Intelligence for Govt. Agencies
Traducción Automática
