¿Cómo get Amazon ELB para manejar grandes rampas de tráfico?

Tenemos un sistema que está actualmente en Amazon Ec2. Yo uso Amazon ELB ahora mismo para equilibrar la carga a través de 12 instancias en 2 zonas. He estado ejecutando algunas testings de carga con diferentes características:

1) una rampa de usuarios simultáneos de 0 a 10.000 en 60 minutos. 2) una rampa escalonada a partir de 2.500 durante 15 min, a 5.000 durante 15 min, a 7.500 durante 15 min, a 10.000 durante 15 min.

En ambos, mis serveres se sientan alnetworkingedor de 20-30% de la CPU, 10-15% de networking y parecen funcionar muy bien, nuestra aplicación registra todo como se espera y está respondiendo muy rápidamente en la máquina durante toda la testing. Mis peticiones de tráfico por segundo en estas máquinas parecen ser bastante spikey y exhibe un comportamiento extraño. Un ejemplo de serveres en la zona 1 bajará 200-400 requestes por segundo, mientras que los serveres en la zona 2 saltarán simultáneamente por 200-400 requestes por segundo. Todo esto mientras sigue respondiendo bien.

Sin embargo, los resultados que veo de la testing de carga externa son muy diferentes. Veo una gran cantidad de times muertos y errores de restablecimiento de connection. Esos times de espera y errores de connection son algo spikey así, lo que significa que voy a ir 5 minutos sin errores a continuación, get una pequeña inundación de ellos, a continuación, volver a la nada por un time.

Estoy sospechando que el ELB puede estar reequilibrando o algo que está causando algo de este comportamiento. Traté de pasar a un hardware realmente robusto que ejecuta HAPRoxy. Eso parecía resolver algunos de los problemas en el extremo inferior de la rampa de testing de carga, pero luego parecía tener hambre de networking y no podía ir mucho más allá de las requestes 5-6K por segundo.

Me pregunto si alguien tiene alguna idea sobre el comportamiento de Amazon ELB? También si hay alguna solución a esto? Eso puede include soluciones completamente diferentes …

Gracias,

MikeD

Respondiendo a mi propia pregunta. Me pasó a través de este hilo ( https://forums.aws.amazon.com/thread.jspa?threadID=76834 ) que hizo una reference oscura a algo llamado ELB Pre-Warm. Llamé a Amazon AWS Support y me dijeron que era de hecho un service que ofrecían, sólo tienes que tener un plan de soporte (nivel de oro si quieres llamarlos). Ellos todo lo establecido para mí y pude ejecutar una exitosa testing de carga con una rampa de 0-10K QPS en 5 minutos.