维普资讯 http://www.cqvip.com 第ｌ６卷２００６年８月 第８期 计算机技术与发展 ＯＤＭＰＵＴＥＲ ＴＥＣＩ－ｈＮＯＬＯＧＹ ＡＮＤ ＤＥＶＥＬＯＰＭＥＮＴ ｖｏＩ．１６ Ｎｏ．８ Ａｕｇ．２００６ 基于线程池的高性能服务器软件的设计和实现 胡 萍 ，陈志鹏２ （１．浙江大学宁波理工学院，浙江宁波３１５１００； ２．中国联通杭州分公司，浙江杭州３１００００） 摘要：传统的多线程技术，虽然在提高服务器性能发挥了重要作用，但是在实时系统应用中，由于其频繁的创建和销毁线 程的系统开销严重影响了系统性能，因此有效降低这部分开销对进一步提高服务器性能尤为重要。文中在分析传统服务 器模型的弊端基础上，提出了基于线程池的服务器模型，并分析说明了线程池技术如何提高服务器性能，最后给出了应用 Ｃ＋＋语言实现该服务器模型的具体方法。 关键词：线程池；Ｃ＋ ；高性能；服务器 中国分类号：ＴＰ３１１．５ 文献标识码：Ａ ‘ 文章编号：１６７３—６２９Ｘ（２０ｏ６）０８—０ｏ４９—０２ Ｄｅｓｉｇｎ ａｎｄ Ｒｅａｌｉｚａｔｉｏｎ ｏｆ Ｓｏｆｔｗａｒｅ ｏｆ Ｈｉｇｈ‘－。Ｐｅｒｆｏｒｍａｎｃｅ Ｓｅｒｖｅｒ Ｂａｓｅｄ ｏｎ Ｔｈｒｅａｄ Ｐｏｏｌ Ｔｅｃｈｎｏｌｏｇｙ ＨＵ Ｐｉｎｇ ，ＣＨＥＮ Ｚｈｉ．ｐｅｎ （１ Ｎｉｎｇｂｏ Ｉｎｓｔ．ｏｆ Ｔｅｃｈｎｏｌｏｇｙ，Ｚｈｅｊｉａｎｇ Ｕｎｉｖ．，Ｎｉｎｇｂｏ ３１５１００，Ｃｈｉｎａ； ２．Ｃｈｉｎａ Ｕｎｉｃｏｒｎ Ｂｒａｎｃｈ Ｃｏｍｐａｎｙ ｉｎ￣ｍｇｚｈｏｕ，Ｈａｎｇｚｈｏｕ ３１００００，Ｃｈｉｎａ） Ａｂｓｔｒａｃｔ．Ｔｈｏｕｇｈ ｔｒａｄｉｔｉｏｎａｌ ｍｕｌｔｉｔｈｒｅａｄ ｔｅｃｈｎｏｌｏｇｙ ｉｓ ｉｍｐｒｏｖｉｇ ｕｓｅｒｖｅｒ ｐｅｒｆｏｒｍａｎｃｅ ａｎｄ ｐｌａｙｉｎｇ ａｌｌ ｉｍｐｏｒｔｎｔａ ｒｏｌｅ，ｂｕｔ ｉｎ ｔｈｅ ｒｅａｌ—ｔｉｍｅ ｓｙｓｔｅｍ，ｂｅｃａｕｓｅ ｔｈｅ ｓｙｓｔｅｍ ｐｄｌｓｅＳ ｏｆ ｉｔｓ ｆｒｅｑｕｅｎｔ ｅｓｔａｂｌｉｓｈｉｎｇ ａｎｄ ｄｅｓｔｍｙｌｇ ｔｕｈｒｅａｄ ｈａｖｅ ｉｎｆｌｕｅｎｃｅｄ ｓｙｓｔｅｍａｔｉｃ ｆｕｎｃｔｉｏｎ ｓｅｒｉｏｕｓｌｙ，ＳＯ ｉｔ ｉｓ ｐａｒｔｉｃｕｌａｒｌｙ ｉｍｐｏｒｔａｎｔ ｔｏ ｒｅｄｕｃｅ ｔｈｉｓ ｐａｒｔ ｏｆ ｅｘｐｅｎｓｅｓ ｅｆｆｅｃｔｉｖｅｌｙ ｔｏ ｆｕｒｔｈｅｒ ｉｍｐｒｏｖｅ ｓｅｒｖｅｒ ｐｅｒｆｏｒｍａｎｃｅ．Ｔｈｉｓ ｐａｐｅｒ ｈａｓ ｐｍｐｏ￣ｄ ｔｈｅ Ｓｅｌ－ｖｅｇｉｒ￣ｅｌ ｂａｓｅｄ ｏｎｔｈｒｅａｄ ｐｏｏｌ Ｏｎｔｈｅ ｂａｓｉｓｏｆ ａｎａｌｙｚｉｎｇｔｈｅ ｄｒａｗｂａｃｋｏｆｔｈｅｔｒａｄｉｔｉｏｎａｌ ｓｅｒｖｅｒ ｒｒ￣ｌｅｌ， ｙｚｅｄ ａｎｄ ｐｒｏｖｅｄ ｈｏｗｔｈｒｅａｄ ｐｏｏｌｔｅｃｈｎｏｌｏｇｙ ｒａｉｓｅ￣ｌ＇ｖｅｒ ｐｅＨｏｒｍａｎｃｅ．ｐｒｏｖｉｄｅｄｔｈｅｍｅｔｈｏｄ ｏｆｉｍｐｌｍｅｅ￣ａｔｉｇｔｕｈｉｓ ｓｅｌ－ｖｅｒｉｒ￣ｅｌ ｕｓｉｎｇＣ＋＋ｆｉｎａｌｌｙ． Ｋｅｙ ｗｏｒｄｓ：ｔｈｒｅａｄ ｐｏｏｌ￣Ｃ＋＋：ｈｉｇｈ—ｐｅｒｆｏｒｍａｎｃｅ；ｓｅｒｖｅｒ Ｏ引 言 在很多实时系统中对响应时间都有较高的要求，如数 开销（Ｔ１＋ ）是不可忽视的Ｌ２ Ｊ，当它占用服务器开销超 过一定比率的时候，将会严重影响服务器的性能。因此， 据库系统、订票系统等等。传统多线程服务器软件采用的 模型是一旦接收客户端任务请求时，立即创建一个新的线 程来执行任务，任务执行完毕后，线程退出Ｌｌ Ｊ。尽管创建 线程比创建进程，系统的开销已经小多了，但是如果提交 给线程的任务执行时间较短的话，那么服务器将忙于创建 和销毁线程，而服务器处理客户端请求任务的时间就相对 减少了，这样服务器的性能就受到很大的影响。文中提供 一要提高服务器资源的利用率，应着眼于减少Ｔ１和Ｔ２这 两部分额外的开销。采用线程池技术能有效地解决这个 问题。 线程池提供了处理系统性能和大用户量请求之间矛 盾的方法，通过对多个任务重用已经存在的线程，降低了 对线程创建和销毁的开销，由于当客户请求到达的时候， 线程对象已经存在，服务器就能立即处理客户请求，从而 提高了服务器的响应能力。线程池采用预创建技术，即在 服务器软件启动时，创建一定数量的线程，放人空闲队列 中，这些线程处于阻塞状态（线程处于阻塞状态不占用 种解决方案来解决以上问题。 １基于线程池的高性能服务器软件的设计思路 服务器线程的执行分为３个过程：线程创建时间 （Ｔ１），线程执行时间（１ｒ２），线程销毁时间（ ）。如果线程 执行时间（Ｔ２）很短的话，那么服务器创建和销毁线程的 ＣＰＵ，只占用很少一部分内存）Ｌ３Ｊ。当客户端任务到达时， 从线程池中选择一个空闲的线程执行任务。与传统的多 线程服务器模式不同，线程池中的线程执行完任务后并不 退出，而是处于阻塞状态，等待下一个任务到达。线程池 中线程的数目是动态调整的，当线程池中的所有线程都处 于繁忙状态时，线程池自动创建新线程来处理更多的任 务；当线程池比较空闲时，线程池就销毁一部分空闲线程， 收稿日期：２００５—１１—２３ 作者简介：胡萍（１９７８一），女，湖北人，硕士，助教，研究方向为数据 库技术及应用。 维普资讯 http://www.cqvip.com ・５０・ 计算机技术与发展 第ｌ６卷 释放系统资源。 一 线程池至少包含线程池管理器、工作 线程、任务接口等部分。其中线程池管理 器负责创建、销毁和调度工作线程；工作 线程是循环执行任务的线程，在没有任务 的时候进行等待；任务接口是每个任务必 须实现的接口，主要用来规定任务的入 一 口、任务执行完后的清理工作和任务执行 状态等等，而工作线程是通过调用这个接 口来执行具体任务的。 线程池框架主要包括４个类：Ｔａｓｋ １ 分配任务 Ｂａｓｅ（任务接口），Ｔｈｒｅａｄ（线程基类）， ＷｏｒｋＴｈｒｅａｄ（工作线程类），ｍｅａｄＰｅｏｌ（线 程池管理类）。线程池中各个类之间的关 ｌ 系如图１所示。 ｌ ＴａｓｋＢａｓｅ图２线程池在服务器应用程序中应用的交互图 ｊ ——一——¨嵋———————————————— ｉ＜＜ｖｉｒｔｕａｌ＞＞ｅ￣ｅｃｕｔｅ０ 分析任务，根据任务类型创建相应的任务 ……一了一— 一 对象；然后服务器主线程将任务交由线程 ／ ｜＼ 池执行，而服务器主线程继续等待下一个 ＼ 客户端请求 引。 、 ■ 一 一ＴｈｒｅａｄＰｏｏｌ 其服务器软件代码框架如下所示： 穗ｒｕ￣＊ｐＴａｓｋＢａｓｅ：ＴａｓｋＢａｓｅ１ ｖｏｉｄ ｍａｍ（） Ｉ￣ｉｎｉｔＯ 上ｒ：ｒｒ ｛ 池 叶● 隆ＧｅｔＩｄｌｅＴｈｒｅａｄ０ 象－厂 ｍＣｒｅａｔｅｌｄｌｅＴｈｒｅａｄ（） ／／￣２１建并初始化线程池，ＴＨＲＥＡＤ—ＮＵＭ为 Ｉ￣ＪＶＶａｉｔＦｏｒｌｄｌｅＴｈｒｅａｄ＇０ ￣ｌｌｏｃａｔｅＴａｓｋ（１初始化线程池的工作线程数 一丁～ ～ ￣ｌｄｌｅＴｉｍｅＣｏｕｎｔ０ ＴｈｒｅａｃｌＰｏｏｌ ｐＴｈｒｅａｄＰｏｏ［＝ｎｅｗ ＴｈｒｅａｃｌＰｏｏｌ 一 ｍＤｅｌｅｔｅｌ任一ｄｌ务一ｅＴｈｒ ｅａｄｓ０ （ＴＨＲＥＡＤ—ＮＵＭ）； 图１线程池中各个类之间的关系图 一 ｗｈｉｌｅ（１） ● １●ｒ●● 其中任务接口类ＴａｓｋＢａｓｅ是个抽象的接口，其派生 １ 类必须实现ｅｘｅｃｕｔｅ（）方法，工作线程通过执行这个ｅｘｅ— ／／循环从客户端接受任务，解析任务，判断任务类型 ｃｕｔｅ（）方法来执行具体任务；线程基类Ｔｈｒｅａｄ是对操作系 ｓｗｉｔｃｈ（ＡｅｅｅｐｔＴａｓｋ（ＴａｓｋＤａｔａ）） 统提供线程接口的封装，它是所有工作线程类的基类，提 ｛ ｃａｓｅ任务类型１： 供统一的接口ｒｕｎ（）方法，所有派生类都要实现ｒｕｌｌ（）方 ／做行任务１ 法，同时Ｔｈｒｅａｄ还提供了ｓｔａｒｔ（）方法，它封装了启动线程 ／刷建相应的任务对象ＴａｓｋＸ 细节；工作线程类ＷｏｒｋＴｈｒｅａｄ从Ｔｈｒｅａｄ类派生，实现了 ＴａｓｋＸ ｐＴａｓｋＸ＝ｎｅｗ ＴａｓｋＸ（）； ｒｕｎ（）方法，工作线程启动以后将执行这个ｒｕｎ（）方法；线 ／／设置任务数据 程池管理类ＴｈｒｅａｄＰｏｏｌ负责管理线程池，包括创建、销毁、 调度工作线程等等；ＴａｓｋＸ和ＴａｓｋＹ都从ＴａｓｋＢａｓｅ派生， ／／￣ｒ￣配任务，由工作线程执行任务 在ｅｘｅｃｕｔｅ（）方法中定义了具体的任务内容。 ｐＴｈｒｅａｄＰｏｏｌ一＞ｒｕｎ（ｐＴａｓｋＸ）； ｂｒｅａｋ； ２基于线程池的高性能服务器软件的具体实现 ｃａｓｅ任务类型２： 线程池的引入，不仅有效解决了服务器线程开销的问 ／／执行任务２ 题，提高了服务器性能，还带来了一个简洁、直观、易于扩 ／／仓０建相应的任务对象ＴａｓｋＹ 展的多线程服务器模型，提高了代码的可读性和可维护 １ ｓｌ【Ｙ ｐＴａｓｋＹ＝ｎｅｗ１ ｋＹ（）； 性 ｊ。线程池在服务器应用程序中的应用模型图如图２ ／徽置任务数据 所示。 ／／￣ｒ￣配任务，由工作线程执行任务 其中服务器主线程首先创建并初始化线程池，并等待 ｐＴｈｒｅａｄＰｏｏｌ一＞ｒｕｎ（ｐＴａｓｋＹ）； 客户端请求；当有任务请求到达时，服务器主线程接收并 （下转第５４页） 维普资讯 http://www.cqvip.com ・５４・ 计算机技术与发展 第１６卷 是正定的当且仅当Ｋ 是条件正定的。 图１所示。实验结果表明使用该Ｃ．Ｐ．ｄ核与多项式核具 将（１２）式带入（１１）式：存在Ｃ．Ｐ．ｄ核Ｋ 使得： 有等价的效果。由于采用的Ｃ．Ｐ．ｄ核是线性距离核，其整 ｌｌ≯（Ｘ）一≯（Ｘ ）ｌ ｌ＝ Ｌ＿（Ｋ （Ｘ，Ｘ）＋Ｋ （ＸＴ Ｘ ）一 体的分类效果不如使用径向基核。 厶 由于 和ＫＤＤＡ在图像处理、语音和信号处理、 Ｋ （Ｘ，Ｘ。） （１３） 模式识别、机器学习等领域有着广泛的用途，上述实验也 特别的，如果Ｋ （Ｘ，Ｘ）：０（如在Ｈｉｌｂｅｒｔ空间表示下）， 表明使用Ｃ．Ｐ．ｄ核同样能够完成这类非线性分类和识别 （１３）式可简化为： 的任务。 ｌｌ≯（Ｘ）一≯（Ｘ ）ｌ ｌ＝一Ｋ （Ｘ，Ｘ ） （１４） 同时另一方面，有 （≯（ ）一≯（ ０），≯（ Ｔ）一≯（ ０））： ５结束语 随着模式识别与机器学习技术的发展，及越来越多复 告［一ｌ厶 ｌ≯（ ）一≯（ ）ｌｌ ＋ｌｌ≯（ ）一≯（ ０）ｌ ｌ ＋ 杂分类任务的提出，使得简单线性分类算法或其组合均难 『 Ｉ４（Ｘ０）一４（Ｘ ）ｆＩ ］ （１５） 以胜任这种要求。核策略等非线性方法的使用有效地扩 因而可以通过使用Ｃ．Ｐ．ｄ核来代替直接计算核函数的分 展了学习算法。通过对条件正定核的使用，说明了基于核 级内积，这样做的另一个优势是：由于内积运算没有变换 距离的非线性算法较传统距离度量有更强的适应性和有 不变性，而ｌｌ・ｌｌ 运算具有平移等变换不变性，因而可以 效性，比Ｍｅｒｃｅｒ核有着更宽松的约束条件，因而有效地扩 具有更大的适用范围。 展了核方法的适用领域。 事实上［ ，任何负的平方距离核函数均是条件正定而 非正定的，即如下形式的核ＨＪ均是Ｃ．Ｐ．ｄ．核（而非Ｐ．ｄ． 参考文献： 核）： ［１］孙即祥．现代模式识别［Ｍ］．长沙：国防科技大学出版社， Ｋ （Ｘ，Ｘ ）＝一ｌ ｌＸ—Ｘ （１６） ２０ｏ２． Ｓｍｏｌａ等人证明 ｊ只有０＜ ＜２的（１６）式才适用于 ［２］ＤｕｄａＲＯ，Ｈａｒｔ ＰＥ，ＳｔｏｒｋＤＧ．模式分类（第２版）［Ｍ］．李 构造非线性分类算法。 宏东，姚天翔译．北京：机械工业出版社，２００３． ［３］Ｌｕ Ｊｕｗｅｉ．ＦａｃｅＲｅｃｏｇｎｉｔｉｏｎＵｓｉｎｇＫｅｒｎｅｌＤｉｒｅｃｔ Ｄｉｓ ｍｉｎａｎｔ Ａｎａｌｙｓｉｓ Ａｌｇｏｒｉｔｈｍｓ［Ｊ］．ＩＥＥＥ ＴＲＡＮ＆ （ １０ＮＳ ＯＮ ＮＥＵ— ４实验及分析 ＲＡＬ Ｎ】 ｗ０ＲＫＳ，２ｏ０３，１４（１）：１１７—１２６． 为了验证文中所述算法的有效性，笔者使用标准测试 ［４］孔锐，张国宣．基于核的Ｋ一均值聚类［Ｊ］．计算机工程， 集：鸢尾属植物数据集（ｉｒｉｓ．ｄａｔ）进行了分类实验。在实验 ２００４（１１）：１２—１３． 中分别使用多项式核函数和径向基核函数对数据集的４ ［５］ＳｍｏｌａＡ Ｊ，Ｓｃｈ６１ｋｏｐｆ．Ｏｎ ａ ｋｅｒｎｅｌ—ｂａｓｅｄｍｅｔｈｏｄｆｏｒ ｐａｔｔｅｒｎ 种属性（萼片长度、萼片宽度、花瓣长度、花瓣宽度）的３个 ｒｅｃｏｇｎｉｔｉｏｎ，ｒｅｇｒｅｓｓｉｏｎ，ａｐｐｒｏｘｉｍａｔｉｎｏ ａｎｄ ｏｐｅｒａｔｏｒ ｉｎｖｅｒｓｉｏｎ 类别（ｓｅｔｏ￣，ａ，ｖｅｒｓｉｃｏｌｏｒ，ｖｉｒｇｌｎｌｃａ）进行 和ＫＤＤＡ分 ［Ｒ］．ＧＭＤ Ｔｅｃｈｎｉｃａｌ Ｒｅｐｏｒｔ，ＧＭＤ－ＦＩＲＳＴ，Ｂｅｒｌｉｎ：［ｓ．ｎ．］， 析，引入ｐ＝１的条件正定核后，利用该类型核的组合执行 １９９８．１０６４—１０９７． 上述核分类算法，并对其分类性能进行对比测试，结果如 （上接第５０页） 术的服务器软件模型，对于提高需要处理轻量级任务并且 ｂｒｅａｋ； 实时性要求较高的服务器性能有很大帮助，具有现实意 ｝ 义。 ｝ ／／释放线程池内存 参考文献： ｄｅｌｅｔｅ ｐＴｈｒｅａｄＰｏｏｌ； ［１］Ｂｅｖｅｒｉｄｇｅ Ｊ，ＷｉｅｎｅｒＲ．Ｗｉｎ３２多线程程序设计［Ｍ］．侯捷 ｝ 译．武汉：华中科技大学出版社，２０ｏ２． ［２］王险峰，刘宝宏．Ｗｉｎｄｏｗｓ环境下的多线程编程原理与应 ３结束语 用［Ｍ］．北京：清华大学出版社，２００２． 线程池是组织服务器应用程序的有用工具，可以显著 ［３］ＢｕｔｅｒｔｈｏｆＤＲ．ＰＯＳＩＸ多线程程序设计［Ｍ］．于磊，曾刚 改善服务器程序的性能，在服务器领域有着广泛的应用前 译．北京：中国电力出版社，２００３． 景。文中在分析了传统的多线程服务器软件处理轻量级 ［４］Ｈｕｇｈｅｓ Ｃ，ＨｕｇｈｅｓＴ．Ｃ＋＋面向对象多线程编程［Ｍ］．周良 任务的弊端的基础上，提出了一个基于线程池技术的服务 忠译．北京：人民邮电出版社，２００１． 器软件模型；同时给出了一个通用的可扩展线程池框架， ［５］Ｒｉｃｈｔｅｒ Ｊ．Ｗｉｎｄｏｗｓ高级编程指南［Ｍ］．王书洪，刘光明译． 以及其在服务器软件中应用的具体实现。基于线程池技 北京：清华大学出版社，１９９９．
