servlet在tomcat上同时处理多个请求

Question

我编写了一个 servlet 程序，它调用一个 java 类来生成随机字符串。我还编写了一个 HTML 文件，其中有 1000 个 IFRAME 指向 servlet 地址。如果多个请求将发送到一个 servlet，则每个请求将在单独的线程中处理。所以在这种情况下，正在创建 1000 个线程（1000 个请求）。问题在于，如果请求超过 1000 个，则需要花费大量时间来处理并且无法处理，依此类推。如果我在后端进行复杂的计算，它会变得更慢。为了快速响应，需要在 servlet 级别（多线程）或 tomcat 级别（如果可能）进行哪些更改。有什么建议吗？

Servlet 代码

@WebServlet("/test")
public class MyServlet extends HttpServlet {
            private static final long serialVersionUID = 1L;
private static PrintWriter out=null;
private UserOperation operation=null;
private static int counter=0;
public MyServlet() {
    super();
    operation=new UserOperation();
}
            protected void doGet(HttpServletRequest request, HttpServletResponse response) throws ServletException, IOException {
                            counter++;
                            out=response.getWriter();
                            String output=operation.getResult();
                            System.out.println(counter+":"+output);
                            out.print(output);
                            return;
            }

            protected void doPost(HttpServletRequest request, HttpServletResponse response) throws ServletException, IOException {
                            doGet(request, response);
            }
}

UserOperation.java

import java.util.Random;

public class UserOperation {
            private Random rand=null;
            private int max=9;
            private int min=0;
            private static final String [] RESULT= {"ONE","TWO","THREE","FOUR","FIVE","SIX","SEVEN","EIGHT","NINE","TEN"};
            public UserOperation() {
                            rand=new Random();
            }
            public String getResult() {
                           int randNum=rand.nextInt((max-min)+1)+min;
                            return RESULT[randNum];
            }
}

HTML 文件

1000 次 IFRAME 调用。下面的行在 HTML 文件中被复制粘贴了 1000 次。

<IFRAME src="http://localhost:8080/MultipleRequest/test" width="30px" height="30px"></IFRAME>

Answer 1

尝试在您的 UserOperation 类中实现 java.lang.Runnable 接口或扩展 java.lang.Thread 类以实现多线程。 还可以尝试通过添加具有适当限制的 -Xmx 参数来增加 Java 的堆大小。

Answer 2

您可以在 servlet 3.0 中使用异步 servlet；这里有一个例子：

https://www.javaworld.com/article/2077995/java-concurrency/java-concurrency-asynchronous-processing-support-in-servlet-3-0.html

仍然存在持续连接需要服务器上的端口的问题。发出的请求将占用一个端口，无论它是否占用一个线程，您都可以使用异步 servlet 使用事件代码来缓解，但无论如何端口部分都将保留。缓解端口短缺的唯一方法是将您的应用程序扩展到多个服务器

Answer 3

首先，您的 servlet 很危险，而且不是线程安全的。先解决这个问题。

@WebServlet("/test")
public class MyServlet extends HttpServlet {
    private static final long serialVersionUID = 1L;
    private final AtomicInteger counter = new AtomicInteger(0);
    private final UserOperation operation=null;

  public MyServlet() {
    super();
    operation=new UserOperation();
  }
  protected void doGet(HttpServletRequest request, HttpServletResponse response) throws ServletException, IOException {
    int count = this.counter.incrementAndGet();
    PrintWriter out=response.getWriter();
    String output=operation.getResult();
    System.out.println(count + ":" + output);
    out.print(output);
    return;
  }

  protected void doPost(HttpServletRequest request, HttpServletResponse response) throws ServletException, IOException {
    doGet(request, response);
  }
}

既然这是线程安全的，那么您认为创建了 1000 个线程的事实是错误的。 Tomcat 有一个默认的请求处理线程池，大小为 200。因此它会同时处理 200 个请求，而不是您想象的 1000 个。

除此之外，您不应该使用 1000 个 iframe 进行测试，因为您的浏览器通常被限制为对服务器的 6 个并发请求。所以我实际上怀疑您是否收到 1000 个并发请求，但一次只能从浏览器收到 6 个。 Chrome 甚至可能一次将其限制为 1，因为它会看到相同的 URL 并尝试将结果 1 逐 1 缓存。

总之，我怀疑你的 servlet 很慢，但你的测试方法让它看起来很慢！使用像 Apache JMeter 这样的适当工具向您的服务器发送 1000 个请求，然后测试性能。

Answer 4

尝试在您的 UserOperation 类中实现 java.lang.Runnable 接口或扩展 java.lang.Thread 类以实现多线程。 还可以尝试通过添加具有适当限制的 -Xmx 参数来增加 Java 的堆大小。

@WebServlet(urlPatterns={"/AsyncServlet"}, asyncSupported=true)
public class AsyncServlet extends HttpServlet {

    private static PrintWriter out=null;
    private UserOperation operation=null;
    private static int counter=0;

    public AsyncServlet() {
        super();
        operation=new UserOperation();
    }

   @Override
   public void doGet(HttpServletRequest request,
                     HttpServletResponse response) {
      response.setContentType("text/html;charset=UTF-8");
      final AsyncContext acontext = request.startAsync();
      acontext.start(new Runnable() {
         public void run() {

             counter++;
             try {
                HttpServletResponse response = (HttpServletResponse) acontext.getResponse();

                out=response.getWriter();

                String param = acontext.getRequest().getParameter("param");

                 String output = operation.getResult();
                 System.out.println(counter + ":"+output);
                 out.print(output);

                acontext.complete();

            } catch (IOException e) {
                e.printStackTrace();
            }
         }
      });
   }

   public class UserOperation {
       private Random rand=null;
       private int max=9;
       private int min=0;
       private final String [] RESULT= {"ONE","TWO","THREE","FOUR","FIVE","SIX","SEVEN","EIGHT","NINE","TEN"};
       public UserOperation() {
           rand=new Random();
       }
       public String getResult() {
           int randNum=rand.nextInt((max-min)+1)+min;
           return RESULT[randNum];
       }
   }
}