# 测试llama和qen if __name__ == '__main__': import pandas as pd import json # 加载地质描述文本,提取prompt和label with open('./data/train_triples.json', 'r', encoding='utf-8') as f: data = json.load(f) # 将data转换为DataFrame df = pd.DataFrame(data) # 提取prompt和label text = df['text'] label = df['triple_list'] # print(prompt,label) print(len(text)) from response_to_json import parse_llm_response, save_to_json, save_raw_response from LLM_Special_for_0423 import zero_shot # from prompt_generate import generate_prompt_with_examples as generate_prompt # from prompt_generate import generate_prompt_with_best_matches as generate_prompt_b model_series = 'qwen' model_name = 'Qwen/Qwen2.5-72B-Instruct' prompt = ''' 你是一名专业经验丰富的工程地质领域专家,你的任务是从给定的输入文本中提取"实体-关系-实体"三元组。关系类型包括24种:"出露于"、"位于"、"整合接触"、"不整合接触"、"假整合接触"、"断层接触"、"分布形态"、"大地构造位置"、"地层区划"、"出露地层"、"岩性"、"厚度"、"面积"、"坐标"、"长度"、"含有"、"所属年代"、"行政区划"、"发育"、"古生物"、"海拔"、"属于"、"吞噬"、"侵入"。提取过程请按照以下规范: 1.  输出格式: 严格遵循JSON数组,无额外文本,每个元素包含: [     {         "entity1": "实体1",         "relation": "关系",         "entity2": "实体2"     } ] 2.  复杂关系处理: 若同一实体参与多个关系,需分别列出不同三元组 3.  关系的解释: (1)出露于:指岩石或地层暴露在地表或近地表,未被覆盖或埋藏,在三元组中常显示为"出露"、"分布",主体和客体分别是"岩石、地层(X组或X群)"和"地区"。 (2)位于:确立地质单元在更大空间框架(行政区域/构造单元)中的从属关系,表达宏观空间归属,不能用来描述"X岩"在"X地方",使用"出露于"关系替代。 (3)整合接触:指示上下地层连续沉积形成的接触关系,反映无显著沉积间断的岩性渐变特征,专门用来描述地层之间的关系,请勿滥用。 (4)不整合接触:描述存在沉积缺失的地层接触界面,包含角度差异或岩性突变的接触特征,专门用来描述地层之间的关系,请勿滥用。 (5)假整合接触:特指产状一致的平行不整合类型,强调沉积序列的间断但无构造变形,专门用来描述地层之间的关系,请勿滥用。 (6)断层接触:两个地层之间为断层带或断层面,往往伴随动力破碎等构造现象,专门用来描述地层之间的关系,请勿滥用。 (7)分布形态:刻画地质单元的空间展布特征,包括几何形态与延伸方向的组合描述。在三元组中主体和客体分别是"岩石、地层(X组或X系)"和"X块、状、体、结构、展布"等。 (8)大地构造位置:定位地质单元在板块构造格架中的归属,关联造山带或构造单元划分。在三元组中主体和客体分别是"岩石、地层(X群或X系)"和"XX带"。 (9)地层区划:表征地层单元在区域地层划分体系中的层级归属与分区属性。在三元组中主体和客体分别是"地层、测区"和"X分区"。 (10)出露地层:特指某区域实际暴露的地层实体,强调可观测的地表地质单元。在三元组中主体和客体分别是"地层(X组或X群)"和"地层(X组或X群)"。 (11)岩性:定义岩石的物质组成与结构特征,包含复合岩性的层级描述要素。 (12)厚度:量化地层/岩体的垂向尺度,包含绝对数值与相对描述的量纲表达。 (13)面积:表征地质单元的水平展布范围,以数值与单位组合的标准化形式呈现。 (14)坐标:特指记录地质特征点的地理空间定位数据。 (15)长度:描述线性地质体的空间延伸尺度。 (16)含有:指示主体物质的成分包含关系,专指矿物组成或化石赋存状态,不同于日常的意思,不能用来描述“X岩"含有"古生物",要使用"古生物"关系代替。 (17)所属年代:建立地质单元与标准地质年代体系的对应关系。 (18)行政区划:界定地质实体在行政管理体系中的隶属层级与地域归属。 (19)发育:描述地质构造或沉积特征的显现程度与形成状态强度。在三元组中主体和客体分别是"岩石"和"X层(片)理等、X构造"。 (20)古生物:记录地层中赋存的化石生物信息,需包含完整拉丁学名与分类特征。专指"X岩石、地区、地层(X组或X群"有"古生物"。例 (21)海拔:量化地质特征点相对于海平面的高程数据。 (22)属于:确立地质单元在分类体系中的类型归属,构建概念层级关系,不可滥用。 (23)吞噬:表征侵入体对围岩的空间取代过程,反映岩浆活动的改造作用。 (24)侵入:描述岩浆岩体贯入围岩的地质作用过程,包含接触变质等伴生现象。 ''' j=0 q=0 json_path = './output/Knowledge-guided_rerun/nomal_all/'+model_name+'.json' j=len(json.load(open(json_path,'r',encoding='utf-8'))) q=len(json.load(open('./output/Knowledge-guided_rerun/nomal_all_raw/'+model_name+'.json','r',encoding='utf-8'))) # # 当q=j时才继续处理 # # 当q=j时才继续处理 if q==j: print(j) for i in range(j,500): response = zero_shot(model_series, model_name, prompt+'\n'+'以下是地质描述文本,请基于上述描述提取三元组:'+'\n'+text[i]) print(prompt+'\n'+'以下是地质描述文本,请基于上述描述提取三元组:'+'\n'+text[i]) # 解析响应 formatted_triples = parse_llm_response(response) # 保存结果 save_to_json(text[i], formatted_triples, model_series=model_name, output_dir='./output/Knowledge-guided_rerun/nomal_all/') # 保存原始响应为josn文件save_raw_response save_raw_response(response, prompt+'\n'+'以下是地质描述文本,请基于上述描述提取三元组:'+'\n'+text[i], model_series=model_name, output_dir='./output/Knowledge-guided_rerun/nomal_all_raw/') else: print('q!=j') # 上一轮提示 0421 # 你是一名专业经验丰富的工程地质领域专家,你的任务是从给定的输入文本中提取"实体-关系-实体"三元组。关系类型包括24种:"出露于"、"位于"、"整合接触"、"不整合接触"、"假整合接触"、"断层接触"、"分布形态"、"大地构造位置"、"地层区划"、"出露地层"、"岩性"、"厚度"、"面积"、"坐标"、"长度"、"含有"、"所属年代"、"行政区划"、"发育"、"古生物"、"海拔"、"属于"、"吞噬"、"侵入"。提取过程请按照以下规范: # 1. 输出格式: # 严格遵循JSON数组,无额外文本,每个元素包含: # [ # { # "entity1": "实体1", # "relation": "关系", # "entity2": "实体2" # } # ] # 2. 复杂关系处理: # - 若同一实体参与多个关系,需分别列出不同三元组 # 3. 关系的解释: # 出露于:指岩石或地层暴露在地表或近地表,未被覆盖或埋藏,在三元组中常显示为"出露"、"分布",主体和客体分别是"岩石、地层(X组或X群)"和"地区"。 # 位于:确立地质单元在更大空间框架(行政区域/构造单元)中的从属关系,表达宏观空间归属,不能用来描述"X岩"在"X地方",使用"出露于"关系替代。 # 整合接触:指示上下地层连续沉积形成的接触关系,反映无显著沉积间断的岩性渐变特征,专门用来描述地层之间的关系,请勿滥用。 # 不整合接触:描述存在沉积缺失的地层接触界面,包含角度差异或岩性突变的接触特征,专门用来描述地层之间的关系,请勿滥用。 # 假整合接触:特指产状一致的平行不整合类型,强调沉积序列的间断但无构造变形,专门用来描述地层之间的关系,请勿滥用。 # 断层接触:界定以断裂构造为边界的地质体空间关系,伴随破碎带等构造现象,专门用来描述地层之间的关系,请勿滥用。 # 分布形态:刻画地质单元的空间展布特征,包括几何形态与延伸方向的组合描述。在三元组中主体和客体分别是"岩石、地层(X组或X群)"和"块、状、体、结构、展布"等。 # 大地构造位置:定位地质单元在板块构造格架中的归属,关联造山带或构造单元划分。在三元组中主体和客体分别是"岩石、地层(X组或X群)"和"XX带"。 # 地层区划:表征地层单元在区域地层划分体系中的层级归属与分区属性。在三元组中主体和客体分别是"地层、测区"和"X分区"。 # 出露地层:特指某区域实际暴露的地层实体,强调可观测的地表地质单元。在三元组中主体和客体分别是"地层(X组或X群)"和"地层(X组或X群)"。 # 岩性:定义岩石的物质组成与结构特征,包含复合岩性的层级描述要素。 # 厚度:量化地层/岩体的垂向尺度,包含绝对数值与相对描述的量纲表达。 # 面积:表征地质单元的水平展布范围,以数值与单位组合的标准化形式呈现。 # 坐标:特指记录地质特征点的地理空间定位数据,保持原始经纬度格式特征。 # 长度:描述线性地质体的空间延伸尺度。 # 含有:指示主体物质的成分包含关系,专指矿物组成或化石赋存状态,不同于日常的意思,不能用来描述“X岩"含有"古生物",要使用"古生物"关系代替。 # 所属年代:建立地质单元与标准地质年代体系的对应关系,采用国际年代术语,不可滥用。 # 行政区划:界定地质实体在行政管理体系中的隶属层级与地域归属。 # 发育:描述地质构造或沉积特征的显现程度与形成状态强度。在三元组中主体和客体分别是"岩石"和"X层(片)理等、X构造"。 # 古生物:记录地层中赋存的化石生物信息,需包含完整拉丁学名与分类特征。专指"X岩石、地区、地层(X组或X群"有"古生物"。 # 海拔:量化地质特征点相对于海平面的高程数据,保留测量基准标识。 # 属于:确立地质单元在分类体系中的类型归属,构建概念层级关系,不可滥用。 # 吞噬:表征侵入体对围岩的空间取代过程,反映岩浆活动的改造作用。 # 侵入:描述岩浆岩体贯入围岩的地质作用过程,包含接触变质等伴生现象 # 4. 其他要点: # 所有三元组关系必须是以上24种之一 # 关系的实体不能是动词或者介词等无意义的词。且描述岩石和地层等实体等要根据原文尽可能完整,如"X带X岩"或"X世X岩","X层"或"X组" # 描述数字时,不必带上"大于"等模糊词