Entrevista en ‘Soy Data’

2016/08/30

Me vinieron a entrevistar de SOYDATA.net  para hablar de temas relacionados con la Geovisualización como el Big Data o el Open Data y su implicación con el Control de Calidad o el Software libre. Gracias a Jorge Ubero de SoyData por la misma.

Espero que os guste, ya sabéis que si tenéis algún comentario o algo que decir, estoy encantado de contestaros.

Alberto

Alberto Concejal: Nuevos retos en geovisualización

Para hacer un repaso de algunos de los retos y nuevas aplicaciones que nos estamos encontrando en este sector, hemos entrevistado a un veterano experto en geomática, Alberto Concejal.

Alberto Concejal:

Geógrafo, master en teledetección y GIS (sistemas de información geográfica). Ha trabajado más de 15 años en el sector geoespacial. Comenzó su carrera como fotógrafo aéreo y a lo largo de estos años se ha venido especializando en compaginar diseño y geovisualización. Al mismo tiempo ha desarrollado una carrera paralela como fotógrafo y viajero, sus grandes pasiones (ver ‘Un viajero de colores‘ en el portal viajeros.com)

alberto-fotografo-aereo

En la actualidad trabaja como responsable de control de calidad en una multinacional cartográfica. Alberto hace cada día que los procesos complejos sean más fáciles de comprender.

Podcast geotecnologías y nuevos retos

“Las adaptaciones necesarias para que una fusión de dos empresas se lleve a cabo, es todo un reto desde el punto de vista del ‘Quality assessment’”

“No podemos contemplar el escenario actual con los sistemas anteriores, por la capacidad y la realidad dinámica que hay ahora en la generación de datos geolocalizados”

“El open data es el marco idóneo para poder hacer avanzar la tecnología en el entorno big data actual”

“La nube es algo reciente, aún nos estamos adaptando. Es una parte del todo”

“Hay un escenario nuevo cada cinco años, que debe ser aceptado dinámicamente”

“El cliente se ha trasladado de empresas u organismos a las personas de a pie. Siendo éstos a su vez generadores de datos, que deben ser validados y tenidos en cuenta”

Nuevas aplicaciones en geotecnologías: Carto y Tableau

Con Carto (anteriormente conocida como CartoDB) y Tableau se ha facilitado enormemente el acceso a las geotecnologías. En la sencillez reside una de las principales claves de su éxito

–> En la Academia SoyData tenéis a vuestra disposición cursos para poder poneros al día en estas herramientas de geovisualización de una manera ágil, sencilla y asequible.

–> En el blog geovisualization.net Alberto detalla algunas claves y casos de estudio que serán sin duda de vuestro interés. Os invitamos a todos a que lo visitéis.

Visualizing Tweets!

2016/03/04

How about a quick visualization of tweets in CartoDB?

Hey guys, the way we used to visualize is changing on a  daily basis so it’s time to catch up!!!. Let’s add a timestamp and play!!

tweets-visualization-cartoDB-20160304

We will take a look at this dataset in depth shortly so be aware of our schedule!

Regards,

Alberto CONCEJAL
MSc GIS and remote sensing

Creating value through Open Data

2016/02/19

The benefits of Open Data are diverse and range from improved efficiency of public administrations, economic growth in the private sector to wider social welfare

(Source: http://www.europeandataportal.eu/)

Performance can be enhanced by Open Data and contribute to improving the efficiency of public services. Greater efficiency in processes and delivery of public services can be achieved thanks to cross-sector sharing of data, which can for example provide an overview of unnecessary spending.

The economy can benefit from an easier access to information, content and knowledge in turn contributing to the development of innovative services and the creation of new business models.

Social welfare can be improved as society benefits from information that is more transparent and accessible. Open Data enhances collaboration, participation and social innovation.

clip_image004

The economy can benefit from easier access to information, content and knowledge in turn contributing to the development of innovative services and the creation of new business models.

For 2016, the direct market size of Open Data is expected to be 55.3 bn EUR for the EU 28+. Between 2016 and 2020, the market size increases by 36.9%, to a value of 75.7 bn EUR in 2020, including inflation corrections. For the period 2016-2020, the cumulative direct market size is estimated at 325 bn EUR.

picture_1

New jobs are created through the stimulation of the economy and a higher demand for personnel with the skills to work with data. In 2016, there will be 75,000 Open Data jobs within the EU 28+ private sector. By 2020, this number will increase to just under100,000 Open Data jobs. Creating almost 25,000 new direct Open Data jobs by 2020.

picture_2

Public sector performance can be enhanced by Open Data. Greater efficiency in processes and delivery of public services can be achieved thanks to cross-sector sharing of data, providing faster access to information. The accumulated cost savings for the EU28+ in 2020 are forecasted to equal 1.7 bn EUR.

picture_3

Open Data results in efficiency gains as real-time data is used that enables easy access to information that improves individual decision-making. Three case studies are assess in more detail: how Open Data can save lives, how it can be used to save time and how Open Data helps achieve environmental benefits. For example, Open Data has the potential of saving 7000 lives a year by providing resuscitation earlier. Furthermore, applying Open Data in traffic can save 629 million hours of unnecessary waiting time on the roads in the EU.

picture_4

Economic benefits are primarily derived from the re-use of Open Data. Value is there. The question is how big?

The European Union has adopted legislation to foster the re-use of Open (Government) Data. The expected impact of this legislation combined with the development of data portals, is to drive economic benefits and further transparency. Economic benefits are primarily derived from the re-use of Open Data. Value is there. The question is how big?

Thus, the European Commission, within the context of the launch of the European Data Portal, wished to obtain further evidence of the quantitative impact of re-use of Public Data Resources. A study was carried out with the aim to collect, assess and aggregate all economic evidence to forecast the benefits of the re-use of Open Data for all 28 European Member States and the ETFA countries, further referred to as EU 28+, for the period 2016-2020.

Direct benefits are monetised benefits that are realised in market transactions in the form of revenues and Gross Value Added (GVA), the number of jobs involved in producing a service or product, and cost savings. Indirect economic benefits are i.e. new goods and services, time savings for users of applications using Open Data, knowledge economy growth, increased efficiency in public services and growth of related markets.

The market volume exhibits the totality of the realised sales volume of a specific market; the value added. A distinction can be made between the direct market size and the indirect market size. Together they form the total market size for Open Data. For 2016, the direct market size of Open Data is expected to be 55.3 bn EUR for the EU 28+. Between 2016 and 2020, the market size is expected to increase by 36.9%, to a value of 75.7 bn EUR in 2020, including inflation corrections. For the period 2016-2020, the cumulative direct market size is estimated at 325 bn EUR.

In 2016, there will be 75,000 Open Data jobs within the EU 28+ private sector. By 2020, this number is forecasted to increase to just under 100,000 Open Data jobs. This represents a 32% growth over a 5-year period. Thus, in the period 2016-2020, almost 25,000 new direct Open Data jobs will be created.

Based on the forecasted EU28+ GDP for 2020, whilst taking into account the countries’ respective government expenditure averages, the cost savings per country can be calculated. The accumulated cost savings for the EU28+ in 2020 are forecasted to equal 1.7 bn EUR.

The aim of efficiency is to improve resource allocation so that waste is minimized and the outcome value is maximised, given the same amount of resources. Open Data can help in achieving such efficiency, The study offers a combination of the insights around the efficiency gains of Open Data and real-life examples. Three exemplar indicators are assessed in more detail: how Open Data can save lives, how it can be used to save time and how Open Data helps achieve environmental benefits. For example, Open Data has the potential of saving 1,425 lives a year (i.e. 5,5% of the European road fatalities). Furthermore, applying Open Data in traffic can save 629 million hours of unnecessary waiting time on the road in the EU.

The majority of studies performed previously are ex-ante estimations. These are mostly established on the basis of surveys or indirect research and provide for a wide range of different calculations. No comprehensive and detailed ex-post evaluations of the materialised costs and benefits of Open Data are available. Now that governments have defined Open Data policies, the success of these initiatives should be measured. The study offers several recommendations for doing so.

The report goes into further detail on how Open Data has gained importance in the last several years. Furthermore, the report provides insight into how Open Data can be used, and how this re-use differs around Europe. These insights are used to develop a methodology for measuring the value created by Open Data. The resulting values are presented in a graphical way, providing insight in the potential of Open Data for the EU28+ up to 2020.

 

(Source: http://www.europeandataportal.eu/)

 

Comparación de DTM usando Global Mapper 17.0.1

2016/02/12

Hagamos hoy algo sencillo, comparar, primero cualitativamente (visualmente) y después cuantitativamente dos DTM. Por un lado elegimos una fuente muy usual, SRTM de 3 arc sec (aproximadamente 90m) con un DTM derivado de Fotogrametría Stereo.

  • Comparación CUALITATIVA (i.e visual)
  • Comparación CUANTITATIVA (i.e RMSE)

Abrimos por un lado un DTM cuya fuente sea SRTM, en este caso me he conectado via WMS (Web Mapping Service) a través del data online disponible dentro de la misma aplicación Global Mapper (File/Download Online Imagery/data). La resolución es de aproximadamente 90m (3 arc sec).

DTM-COMPARISON-20160212

Por otro lado he encontrado este DTM cuya fuente conozco (Stereo Photogrammetry). La resolución es de 5m.

DTM-COMPARISON-20160212-02

A través de la herramienta ‘digitizer tool’ (Tools/Digitizer) seleccionamos una línea dibujada al azar sobre los dos. Botón derecho del ratón-> analysis/measurement/path profile. Exporto ambas imágenes (es importante en path setup definir un mismo mínimo y máximo para poder compararlas adecuadamente).

Con Photoshop superpongo (Layer display/ multiply) ambas imágenes y veo cuán diferente son.

DTM-COMPARISON-20160212-03

Esto nos da una primera idea de la comparación, pero vayamos un poco más allá: ¿Cuál es el RMSE (Error medio cuadrático, Root Mean Square Error) entre ambas bases de datos?.

DTM-COMPARISON-20160212-04

Esta es una medida de desviación que nos va a definir mucho más exactamente que una simple visualización. Podéis ver algo más desarrollado este punto en este link de esta misma página:

Using Excel to calculate the RMSE for LiDAR vertical ground control points

DTM-COMPARISON-20160212-05

Ahora tan solo hemos de verificar que esta cifra sea la correcta teniendo en cuenta los valores de precisión prometidos en la entrega.

Espero que os haya resultado interesante, si así es, no olvidéis comentar, compartir o simplemente decir Hola. Cualquiera de estas opciones es apreciada.

Un saludo cordial,
Alberto CONCEJAL
MSc GIS and Remote Sensing

Descargas del CNIG. Open Source bien hecho!

2016/02/08

Hola amigos del GIS,
Por motivos de trabajo que no vienen al caso, he tenido que bucear de manera sistemática la web de descargas del CNIG. http://centrodedescargas.cnig.es/CentroDescargas/inicio.do
Una maravilla.

cnig-20160208-01

Por motivos que tampoco viene al caso, he de hacer esto mismo de vez en cuando en todos los Institutos cartográficos del mundo y el del CNIG es sin duda en el que me resulta más fácil, en el que el modelo de datos en más lógico y en el que los links son más fiables de todo el mundo. La única obligación es la atribución obligatoria de los datos. ¿No es mucho pedir, no? Desde el día 27 de diciembre, los datos del IGN son libres CC By 4.0.
https://creativecommons.org/licenses/by/4.0/

Por tanto es obligatorio que mencione la procedencia a pie de imagen, créditos, etc.., sobre todo en publicaciones, usos comerciales, artículos, etc… (Por ejemplo puede poner “<tal dato> CC by instituto Geográfico Nacional” o más bien “derivado de <tal dato” CC by ign.es” o similares…).

cnig-20160208-02

Ya sea porque necesitemos las imágenes del PNOA (Plan Nacional de Ortofotografía Aérea), un modelo digital del terreno de alta resolución o imágenes históricas de nuestro pueblo… tan solo hay que bucear un poco en el catálogo de geodatos del Instituto Geográfico Nacional (Centro Nacional de Información Geográfica) y los conseguiremos.

Por ejemplo, la semana pasada tuve que encontrar datos sobre algunas ciudades españolas para hacer varios escenarios 3D para un cliente y aquí encontré por un lado un DSM 5m elaborado con fuentes LIDAR, por otro lado me bajé de Cartociudad los datos relativos a vectores lineales, manzanas y luego desde la web de CATASTRO (https://www.sedecatastro.gob.es/OVCFrames.aspx?TIPO=TIT&a=masiv) me bajé las geometrías de todos los edificios de la ciudad (que planeo geoprocesar para eliminar las formas no deseadas y para adjudicar alturas precisas gracias al LIDAR bajado con anterioridad).

Por qué no añadir geometrías de Open Street Maps (https://www.openstreetmap.org/export) o de la propia Base Topográfica Nacional BTN25 para completar dicho escenario?

barcelona-bldg-osm-capture-20160112
MADRID-GISDATA

La verdad amigos es que desde que empezó a funcionar el Open Data, los Geógrafos y derivados tenemos mucho con lo que ‘jugar’ para hacer nuestros análisis.
http://idee.es/

Espero que os resulte interesante.

Un saludo cordial,

Alberto
Geógrafo/ Máster SIG UAH/ Diseñador Multimedia

Cheers! Geovisualization.net has just been released!

2016/02/03

Risk exposure. Geoprocessing using Open Source Data!! Next steps!!

2016/01/29

Now that we have completed a first example, let’s continue with a real-world one. Its important working on a Data Model to define what we understand as a Risk and how important this is. Meaning. High voltage power lines are an actual risk but the closer we are, i guess the bigger the risk is, meaning i.e 3 if we are within 50m and 1 if we are 150m away… It’s only a guess.

risk3

Same thing related to antennas, Petrol stations, etc.

This is my Data Model defined over the city of Madrid, Spain.

1 LINES- Roads speed >50 km/h within 100m risk=3
2 LINES- Power lines within 100m risk=3

3 POINTS-

Antenna,
High voltage towers,
Petrol stations:

risk if within 50m=3; risk if within 100m=2; risk if within 150m=1; 

4 AREAS-

Cement factories,
Electric Sub-stations,
Waste storage facilities:

risk if within 50m=3; risk if within 100m=2; risk if within 150m=1; 

(NOTE: You can choose your own risk thresholds and importance. Also note these information downloaded from Open Source data (Cartociudad, CNIG) has not been double checked and it has been used as is).

risk2risk1

How is this risk, or these combination of risks impacting in the population of Madrid?

risk4

Can we extrapolate these patterns to other cities in the world?
We will definitely continue  this analysis shortly.

You can also visuallize this analysis using CartoDB, the field regarding “risk exposure level” is called ALL2, and ranges from 2 to 12:

Software: ArcGIS 10.3, Global Mapper 17, CartoDB

Please share if you enjoyed it… or just to say hello!

Alberto C
MSc GIS and remote sensing UAH

Risk exposure. First steps

2016/01/15

Knowing how to geoprocess features is key if what we want is assesing risk exposure. What’s a risk? Which are the risks? Where are the risks? How important a risk is?

risk-exposure-fist-steps-20160115

Jugando con CartoDB

2016/01/15

Hace ya mucho tiempo que he oído hablar de CartoDB y que vengo practicando en su página web a visualizar bases de datos sencillas.

  1. Crea una cuenta
  2. Incorpora tus datos o tómalos de la galería
  3. Selecciona en modo datos la columna que quieres simbolizar/visualizar
  4. Conviértela en NUMBER si estuviera en STRING
  5. Selecciona en modo mapa en WIZARD
  6. COROPLETAS, columna _población
  7. Visualiza el resultado

cartodb03cartodb01cartodb02

Change detection – Detección de cambios en polígonos

2015/10/22

change-detection-bogota-telemediciones-20151023-02
THE IDEA: DEMONSTRATING HOW DYNAMIC A CITY IS, THUS HOW IMPORTANT IS HAVING AN UPDATED DATASET
bogota-change-detection-20151105-02

THE FACTS: THE CITY OF BOGOTÁ IN COLOMBIA 2012-2014

Overall growth rate: -0.12% ONLY HAVING INTO ACCOUNT THE DIFFERENCE OF BUILDINGS CAPTURED BETWEEN 2012 AND 2014 (We can do this because we have used the same data capture model in both years)

(De acuerdo al censo catastral, para 2015 la ciudad incorporó 51.531 predios nuevos urbanos. En total, hay 2’402.581 predios en la ciudad, de esos, 266,9 millones de metros cuadrados son de área totalmente edificada. Source: http://www.eltiempo.com/bogota/crecimiento-bogota-/15394797)

bogota-change-detection-20151105

THE PROCEDURE: Centroids of buildings; Spatial join showing presence-absence, considering a 10m accuracy threshold, meaning if the centroid has not moved more than 10m, its the same building. If the centroid in 2012 is not in 2014, its considered as demolished. If a new centroid appears its considered new building.

DENSITY MAPS+3D buildings
Help to quickly focus on the highlights
bogota-change-detection-news-20151021

 


Follow

Get every new post delivered to your Inbox.