¿Cómo get Amazon ELB para manejar grandes rampas de tráfico?

Tenemos un sistema que está actualmente en Amazon Ec2. Yo uso Amazon ELB ahora mismo para equilibrar la carga a través de 12 instancias en 2 zonas. He estado ejecutando algunas testings de carga con diferentes características:

1) una rampa de usuarios simultáneos de 0 a 10.000 en 60 minutos. 2) una rampa escalonada a partir de 2.500 durante 15 min, a 5.000 durante 15 min, a 7.500 durante 15 min, a 10.000 durante 15 min.

En ambos, mis serveres se sientan alnetworkingedor de 20-30% de la CPU, 10-15% de networking y parecen funcionar muy bien, nuestra aplicación registra todo como se espera y está respondiendo muy rápidamente en la máquina durante toda la testing. Mis peticiones de tráfico por segundo en estas máquinas parecen ser bastante spikey y exhibe un comportamiento extraño. Un ejemplo de serveres en la zona 1 bajará 200-400 requestes por segundo, mientras que los serveres en la zona 2 saltarán simultáneamente por 200-400 requestes por segundo. Todo esto mientras sigue respondiendo bien.

Sin embargo, los resultados que veo de la testing de carga externa son muy diferentes. Veo una gran cantidad de times muertos y errores de restablecimiento de connection. Esos times de espera y errores de connection son algo spikey así, lo que significa que voy a ir 5 minutos sin errores a continuación, get una pequeña inundación de ellos, a continuación, volver a la nada por un time.

Estoy sospechando que el ELB puede estar reequilibrando o algo que está causando algo de este comportamiento. Traté de pasar a un hardware realmente robusto que ejecuta HAPRoxy. Eso parecía resolver algunos de los problemas en el extremo inferior de la rampa de testing de carga, pero luego parecía tener hambre de networking y no podía ir mucho más allá de las requestes 5-6K por segundo.

Me pregunto si alguien tiene alguna idea sobre el comportamiento de Amazon ELB? También si hay alguna solución a esto? Eso puede include soluciones completamente diferentes …

Gracias,

MikeD

One Solution collect form web for “¿Cómo get Amazon ELB para manejar grandes rampas de tráfico?”

Respondiendo a mi propia pregunta. Me pasó a través de este hilo ( https://forums.aws.amazon.com/thread.jspa?threadID=76834 ) que hizo una reference oscura a algo llamado ELB Pre-Warm. Llamé a Amazon AWS Support y me dijeron que era de hecho un service que ofrecían, sólo tienes que tener un plan de soporte (nivel de oro si quieres llamarlos). Ellos todo lo establecido para mí y pude ejecutar una exitosa testing de carga con una rampa de 0-10K QPS en 5 minutos.

  • ¿Es posible join a una instancia de Amazon RDS SQL Server 2008 en un dominio de Windows?
  • ln -s no funciona bajo / mnt /
  • Amazon Linux AMI EC2 Función PHP Reconocimiento
  • Red Hat 7 - Amazon EC2 - No se pudo recuperar mirrorlist https: // Ninguno / pulp
  • ¿Cuál es una buena manera de desarrollar imágenes o templates que se pueden utilizar en Xen, KVM y EC2?
  • ¿Puedo verificar la integridad de una instancia de Amazon?
  • No se puede conectar al server MySQL remoto (RDS)
  • Crear tu propio FreeBSD ami en EC2
  • Solución de problemas de time de espera de connection de sitio AWS EC2 en el browser
  • Configuración de Ejabberd en ubuntu ami de amazon ec2
  • Mover file grande (100 GB) a la instancia de EC2 desde mi centro de datos colo
  • ¿Cómo puedo acceder a amazon ec2 con root directamente en putty o winscp?
  • ¿Estaría bien ejecutar Apache en una instancia de EC2 y MYQSL en otra?
  • El linux y los temas del servidor de Windows, como ubuntu, centos, apache, nginx, debian y consejos de red.