卓世科技提示词压缩专利技术揭秘

　　提示工程是一种在机器学习模型，尤其是预训练语言模型中，通过精心设计输入提示(prompt)来引导模型输出期望结果的技术。在大语言模型的使用中，提示词通常是一段文本，用来引导模型生成特定的输出或完成特定的任务。

　　(1)定义长prompt的结构：

　　Prompt=instruction+documents/demonstrations+question。

　　(2)小语言模型和大语言模型的分布对齐

　　使用小语言模型(small LLM)估计长prompt的各个部分的重要程度，为了缩小大语言模型(LLM)和小语言模型之间的概率分布差距，通过在LLM生成的数据上进行指令微调来有效小语言模型，使得小语言模型更好地模拟LLM的分布。

　　(3)对documents/demonstrations部分进行两个层次的压缩。

　　3.1、示例层次的压缩

　　documents/demonstrations部分中通常包含多个文档/示例，而每个文档/示例包含有多个段落。针对每个文档/示例的每个段落，计算出段落与question的相关性，保留得分前3的段落作为该文档/示例的代表上下文x_doc。同时，可计算出该文档/示例中所有段落的平均相关性s_k。

　　然后根据question部分和文档/示例的代表上下文x_doc计算文档/示例级别的困惑度r_k。最终文档/示例的评分为s1=s_k*r_k。

　　此时，每个文档/示例计算出三个分数，评分s1、平均相关性s_k以及困惑度r_k。利用这三个分数从长prompt的documents/demonstrations部分中删除部分文档/示例。

　　3.2重排序

　　由于模型对prompt的不同位置处的信息的敏感度不同，通常模型对prompt首尾位置处的信息敏感度较好，中间位置的敏感度较差。为了确保prompt的效果，可依据评分对保留的文档进行重排序处理，使得评分较高的文档排列在首位，评分较低排列在中间位置。

　　3.3文档/示例压缩率计算

　　针对重排序后的prompt，用户可自定义在词语层次上的压缩率。按照上述文档/示例的排序，使用[1, 2*Kc]的均匀离散分布，来初始化每个文档/示例的压缩率。

　　3.4词语层次的压缩

　　在删减文档/示例后的documents/demonstrations部分，可计算每个token的条件困惑度差异。

　　为了确保压缩后的语义完整，可使用双向最大匹配分词法，以获取到最长的分词词语。同时，为了适应垂直领域，可结合垂直领域内的专业词汇表进行分词，尽量保留垂直领域内的专业词汇。

　　然后可基于前述计算出的token的条件困惑度差异以及分词的结果，对每个词语进行打分。假设一个中文词语word_i有k个token组成，按照该中文词语word_i是否属于垂直领域的词汇，使用不同的计算方式对其评分。

　　最后针对每个文档/示例，利用文档/示例中每个词汇的评分，按照得分高低顺序压缩文档/示例，使得其满足文档/示例的压缩率。

　　(4)压缩后的prompt可输入至大语言模型中，得到响应。

　　至此，整个提示词压缩的方案介绍完毕，该技术方案相比于其他压缩方案，更加适配中文的词语粒度，尤其在垂直领域可避免丢失专业词汇，在保证语义完整的情况下删减了冗余信息，可有效降低提升推理效率，节约计算成本

　　摩托罗拉专利探索小折叠手机未来，电动铰链打造自拍神器

　　报道称发现了摩托罗拉的一项新折叠手机专利，通过电动智能铰链技术，可以根据画面中主体的位置动态调整折叠角度。

　　根据美国商标和专利局 9 月 26 日公示的清单，摩托罗拉获得了名为《可折叠移动设备的自主形态控制》专利，展示了一款小折叠屏幕手机，通过形状记忆合金(这项技术最初用于航天航空，能够在加热时改变形状)和线性谐振驱动器(这种电机像弹簧系统一样工作，负责铰链的线性移动)，可以灵活调整铰链角度。

　　在专利描述的应用场景中，表示这一功能特别适合拍摄自拍和进行视频通话，能够解决寻找合适拍摄角度的问题。IT之家附上相关专利图片如下：

　　该功能类似于苹果的 Center Stage 功能，在处理被拍摄者距离变化时，摩托罗拉的解决方案表现更佳。

　　专利还提到一种可作为单独配件出售的夹式电机，能够实现相同的智能调整功能。

　　为卷轴屏手机 Rollable 铺路：LG 新专利暗示新机采用磁吸贴片解决面板皱痕问题

　　虽然 LG 的智能手机产品线已经淡出人们视线，不过 LG 旗下一项新手机专利于 2024 年 10 月 8 日通过美国专利商标局(IT之家注：USPTO)申请，其中展示了一款新型卷轴屏手机的结构设计。

　　相对于 2021 年的 LG Rollable 卷轴屏手机原型，LG 利用磁吸效应解决了设备皱痕问题，专利图中展示的设备在柔性面板后带有可弯曲的磁性贴片，在手机面板滚动时，相关贴片可在手机框架磁铁配合下抚平皱痕，并允许设备更快地伸展 / 收回屏幕。

　　LG 似乎并未抛弃其卷轴屏手机 LG Rollable，虽然该公司已于 2021 年官宣退出手机市场，但目前公布的这一专利申请实际上于 2023 年 10 月提交，显示这家公司依然在为相应产品进行努力，不过目前尚不知道 LG 是否会在合适的时机重返智能手机市场。

　　稀土高新区累计拥有有效专利达6672件

　　2024年8月，高新区专利授权量稳步增长，新增授权专利93件，其中发明专利36件，实用新型专利52件，外观设计专利5件。从获得授权专利权的类型来看，企事业单位获得授权专利83件，占比89.2%;科研院所获得授权专利8件，占比8.6%;个人获得授权专利2件，占比2.2%。

　　2024年以来，稀土高新区的创新发展在知识产权方面体现在了创造能力的快速提升上。据统计，2024年1—8月，高新区新增授权专利791件，其中稀土专利130件，完成全年任务的86.7%，同比增长8.4%;发明专利254件，同比增长96.9%;实用新型专利516件，外观设计专利21件。

　　近年来，稀土高新区全面提升知识产权创造质量、运用效益、保护效果、管理水平和服务能力，形成知识产权保护严格、运用高效、服务优质、开放深入的新格局。截至目前，稀土高新区累计拥有有效专利6672件，占包头市32.1%。其中发明专利1192件，占包头市32.5%;实用新型专利5345件，外观设计专利135件。

　　半遇携清华专利技术推出新品，引领生物酶洗衣新时代

　　近日，创新清洁品牌半遇宣布推出两款全新生物基抗菌产品，分别是半遇生物酶除菌女士内衣洗衣液和半遇生物酶除菌非离子衣物洁衣霸。这两款产品均是基于清华大学的专利生物酶复合除菌技术，集高效抗菌、环保安全和长效保护于一体，旨在为高端家庭提供更健康、更可持续的清洁解决方案。这一科技创新产品的推出，标志着家庭清洁迈入绿色除菌新时代。

　　创新科技：清华大学的前沿专利加持

　　半遇此次推出的新品，源自清华大学的专利转化项目—生物酶复合除菌技术。这项技术在长效除菌领域开创了全新的靶向杀菌模式，利用生物酶精准锁定病菌，并在其细胞膜上形成包围，最终通过氧化应激反应摧毁病菌核心，达到除菌率超过99.9%的效果。

　　不同于传统化学除菌剂，该技术具有无毒、无腐蚀性，安全环保，且对人体和宠物友好等特点。该技术将生物科技与家庭清洁完美结合，打造出无害、有效、持久的清洁产品，能够应对多种复杂的家庭清洁需求。

　　安心环保：生物酶除菌女士内衣洗衣液

　　专为贴身衣物设计的半遇生物酶除菌女士内衣洗衣液采用第三代生物酶除菌技术，能够精准锁定并杀灭大肠杆菌、金黄色葡萄球菌等细菌，保护贴身衣物免受病菌侵害。该产品经过权威机构测试，除菌率达到99.9%，确保使用者的健康安全。

　　值得一提的是，半遇生物酶除菌女士内衣洗衣液采用包含蛋白酶、脂肪酶，淀粉酶、果胶酶、纤维素酶、甘露聚糖酶、溶菌酶在内的七重生物酶，高效分解深层污渍，有效针对女性内衣的血渍、黄渍、汗渍、尿渍等顽固污渍，快速剥离，深层清洁。萃取川滇无患子、越桔果(蔓越莓)、三刺皂荚籽提取物，主打草本健康，即便是敏感肌肤使用，也无任何刺激性，且温和不伤手，易漂无残留。国际调香大师精心调配的风清玉兰香型，带来清新优雅的气息，使衣物在洁净之余，散发出令人愉悦的香味，给生活增添更多舒适感受。

　　呵护全家：生物酶除菌非离子衣物洁衣霸

　　半遇生物酶除菌非离子衣物洁衣霸是另一款强效的衣物清洁产品，专为深度去污与杀菌设计，尤其适合日常难以清洗的顽固污渍。产品采用复合生物酶配方，能够高效瓦解油性污渍、蛋白类污渍及天然色素类污渍，如油渍、咖啡渍、血渍等顽固污渍。即使是深色衣物，也无需担心褪色或损伤。

　　通过第三代生物酶技术，衣物洁衣霸不仅能够快速去渍，还能同时杀灭纤维深处的病菌，防止细菌残留在衣物中滋生，保持衣物长时间清新洁净。产品温和的中性配方，不仅适用于普通衣物，还对娇贵的纺织品如羊毛、丝绸等同样安全，有效避免洗涤损伤。此外，生物酶成分对人体无害，温和不刺激，特别适合有婴幼儿、宠物的家庭使用。两款新品均通过了权威安全认证，确保消费者在使用时的健康无忧。

　　半遇致力于通过科技创新为家庭提供更加健康、环保的清洁解决方案。半遇品牌负责人表示，生物科技是未来清洁领域的核心推动力。半遇将继续深化与科研机构的合作，推动更多符合可持续发展理念的创新产品问世，满足高端家庭对清洁的更高需求。

　　《河南省专利促进和保护条例》明年1月1日起施行

　　铸牢专利护盾 点亮创新之光

　　日前，《河南省专利促进和保护条例》(以下简称《条例》)经省十四届人大常委会第十一次会议表决通过，为我省进一步铸牢专利护盾、点亮创新之光提供了有力法治保障。《条例》将于2025年1月1日起施行。

　　科技创新是高质量发展的引擎。近年来，我省深入实施创新驱动、科教兴省、人才强省战略，坚持把创新摆在发展的逻辑起点、现代化建设的核心位置，知识产权创造活力持续增强，运用效能持续优化，保护能力持续提升，服务质量持续提高。截至今年6月，全省有效发明专利拥有量超8.8万件，是“十三五”末的2倍。

　　“加快完善专利地方立法，推动专利促进和保护工作高质量发展，是推进知识产权强省建设，建设国家创新高地的重要支撑。”省人大法制委相关负责人表示，针对我省发明专利创新不足，转化应用较弱、管理与服务有待改进等问题，制定《条例》，采取多种措施促进专利创造与运用、加强专利服务与管理，激发创新活力，提高专利应用水平是十分必要的。

　　河南省知识产权维权保护中心相关负责人认为，《条例》中建立健全专利预警机制、运用“先使用后付费”方式、加大对重复侵权行为的处罚力度等，都很值得关注。

　　《条例》明确，省、设区的市人民政府专利管理部门应当建立健全专利预警机制，监测和通报重点区域、行业、产业和技术领域的国内外专利状况、发展趋势和竞争态势，及时向社会公布具有重大影响的专利事件并对可能产生的风险发出预警。该规定将助力企业或者组织及时调整研发策略、保护自身权益，从而在市场竞争中掌握主动。

　　为更好打通专利转移转化“最后一公里”，让更多专利成果从“书架”走向“货架”，《条例》明确，鼓励和引导高等院校、科研院所按照先使用后付费方式把专利许可给中小微企业使用。专利许可转让“先使用后付费”的方式，可以解决中小微企业长期以来获得专利成果渠道不畅、许可门槛过高的难题，兼顾了双方诉求，能够推动专利产业化与科技创新型中小企业发展的“双向奔赴”。

　　就如何促进利用财政性资金形成专利的实施问题，《条例》要求，建立专利公开实施清单制度。企业、高等院校、科研机构、新型研发机构等创新主体利用财政性资金设立的科学技术计划项目所形成的专利，自授权公告之日起满三年无正当理由未实施的，应当纳入公开实施清单，并由专利权人合理确定专利公开实施的方式和费用标准。

　　《条例》在奖励问题上，既突出对发明创造的奖励，也考虑到对专利转化推广运用的奖励。《条例》明确，省人民政府设立河南省专利奖，对进行发明创造、专利转化推广运用，为促进经济和社会发展作出突出贡献的专利权人、发明人(设计人)予以表彰和奖励。同时，《条例》还明确，在进行专业技术职称评审、科学技术奖励和技术创新奖励项目评审等方面，相关专利可作为评审的重要因素。

　　加强专利权利保护，打击严重扰乱市场秩序的重复侵权行为。《条例》加大了对专利重复侵权行为的处罚力度，明确由负责专利执法的部门责令改正，没收违法所得，可以并处违法所得二倍以上四倍以下的罚款。

　　甘肃省2024年专利导航报告发布推介会举行

　　甘肃省2024年专利导航报告发布推介会在兰州举行。推介会由丝绸之路国际知识产权港有限责任公司、中国科学院近代物理研究所等单位共同主办。

　　会上共发布了四项专利导航成果，中国科学院近代物理研究所发布了《重离子治癌技术专利导航及对我省重离子治疗产业发展建议》，兰州泽一知识产权代理有限公司发布了《甘肃省葡萄酒产业专利导航》，丝绸之路国际知识产权港有限责任公司发布了《陇南市油橄榄产业专利导航分析》，甘肃弘毅天承知识产权服务有限公司发布了《兰州新区绿色节能化工产业专利导航项目》。业内专家对四项导航项目进行了点评，并就导航项目相关内容、工作重点、关键环节以及后续工作开展等方面提出了建设性意见。

　　据悉，本次专利导航报告发布推介会旨在为企业创新发展提供精准的导航指引，为我省相关产业强链增效和高质量发展提供支撑，推动科技创新与产业升级深度融合。

新用户注册免费领取888元https://www1.epbiao.com/topic/xinren/

免费查询商标：https://www1.epbiao.com/zt/sbcx17/

商标注册费用：https://www1.epbiao.com/feiyong/

专利查询：https://www1.epbiao.com/theme/zhuanlishenqing/

版权登记：https://www1.epbiao.com/banquan/