Ir al contenido principal

First approach to the python3.6 async programming, a simple consumer/producer (async programming with python 3.6 step 1)

As a first approach to the async programming I'm developing small scripts with python.


The main thing I need to learn is how to develop an asynchronous consumer/producer using an async Queue and python3.6.

First, a reproduction of the problem with synchronous programming, later the solution I found with async programming.

Synchronous


# First attempt, synchronous

from queue import Queue
from time import sleep, perf_counter


def produce(q: Queue, n: int):
    for i in range(n):
        print(f'produce {i}')
        q.put(i)
        sleep(0.1)


def consume(q: Queue):
    for i in q.queue:
        print(f'consume {i}')
        sleep(0.1)


start = perf_counter()
q = Queue()
produce(q, 10)
consume(q)
print(perf_counter() - start)


# Output

produce 0
produce 1
produce 2
... # imagin that
consume 7
consume 8
consume 9
2.005685806274414

It takes about 2 seconds

Asynchronous

# Second attempt, Asynchronous

import asyncio
from time import perf_counter


async def produce(queue: asyncio.Queue, n: int):
    for x in range(n):
        print(f'produce {x}')
        await asyncio.sleep(0.1)
        await queue.put(x)


async def consume(queue: asyncio.Queue):
    while True:
        x = await queue.get()
        print(f'consume {x}')
        await asyncio.sleep(0.1)
        queue.task_done()


async def run(n: int = 10):
    queue = asyncio.Queue()
    consumer = asyncio.ensure_future(consume(queue))

    await produce(queue, n)
    await queue.join()

    consumer.cancel()



start = perf_counter()
loop = asyncio.get_event_loop()
loop.run_until_complete(run())
loop.close()
print(perf_counter() - start)

# Output

produce 0
produce 1
consume 0
produce 2
consume 1
produce 3
...
consume 7
produce 9
consume 8
consume 9
1.1065495014190674

It takes 1.10 seconds, pretty much better, no?

Comentarios

Entradas populares de este blog

Join o producto cartesiano de dos tablas en EXCEL 2007

Hace unos dias inicie mi ocupacion como becario de informatica en la facultad de humanidades y ciencias de la educacion de la UJAEN. Y como no, no han tardado en surgir los problemas. Supongamos que tenemos dos tablas, y queremos hacer una tabla que tenga datos de estas dos tablas, segun un criterio , y es que solo pueden aparecer ciertas filas, mas exactamente aquellas donde coincida cierto campo, en este ejemplo, el codigo de la asignatura. Si queremos realizar el join o producto cartesiano tal y como lo hariamos en una base de datos, parece ser que si no estamos trabajando con una bbdd sino con Excel, la cosa se complica un poco. Para "multiplicar tablas" en excel, primero vamos a hacer una cosa, cada tabla la vamos a guardar en hojas separadas, en nuestro caso, una tabla la guardamos en Hoja1 , y la otra en Hoja2 Ahora, nos situamos en la hoja donde queramos que aparezca el producto cartesiano de nuestras dos tablas, nos vamos a la ficha DATOS . Veremos que h...

Descargar código fuente desde Google App Engine

Estaba desarrollando una aplicación en google app engine, cuando un día, al llegar al trabajo (hoy), me doy cuenta que no tengo acceso a mi versión de desarrollo. Como la ultima versión que estaba desarrollando, justo la noche de antes la había subido a google app engine, pues me dije: "Ya esta, me conecto y me descargo el código fuente" ERROR 404 // SOLUCIÓN A IDEA MÁGICA NO ENCONTRADA Tras buscar por google, observo que hay muchas voces que dicen que no te puedes descargar el código fuente, que google no deja disponible ninguna API para descargarte tu codigo, ... ¡Pero como va a ser así!, desde appengine, te dicen que se puede hacer, lo que no está tan claro es como hacerlo. Pues estos son los pasos para poder hacerlo: Crear un directorio vacío para poder descargar en el nuestra aplicación. Abrir la línea de comandos, y cambiarnos al directorio de google app engine: cd C:\Archivos de Programa\Google\google_appengine\ Ejecutar el siguiente comando para descar...

Stop python debugger exactly on the failing loop iteration

This post is for ipdb users. Is this case familiar for you?: Write a break point on your code Go into a loop Start pressing 'c' and 'n' until you found the iteration that is failing. It can works, but you can only do this ... one or two times maybe?? If you need to this frequently, this method doesn't works and you need another tool, but .... what's the tool I need? You need launch_ipdb_on_exception ... ... from ipdb import launch_ipdb_on_exception with launch_ipdb_on_exception(): for i in range ( 9 ): print (i) if i== 4 : raise Exception('Debug time!') ... # Output 0 1 2 3 4 Exception('Debug time!',) > <ipython-input-1-4f44dca149ad>(7)<module>() 5 print(i) 6 if i==4: ----> 7 raise Exception('Debug time!') ipdb> i # Note ipdb console!! 4 ipdb> c # Continues the execution In [2]: i # Ipython console again Out[2]: 4 In [3...