首页> 外国专利> NUMERICAL COMPUTATION METHOD AND NUMERICAL COMPUTATION PROGRAM

NUMERICAL COMPUTATION METHOD AND NUMERICAL COMPUTATION PROGRAM

机译:数值计算方法和数值计算程序

摘要

PROBLEM TO BE SOLVED: To rapidly perform computation of numerical solutions of simultaneous linear equations, by suppressing occurrence of paging in a virtual memory used for a solving method for the simultaneous linear equations using the modified Cholesky decomposition method.;SOLUTION: In triangular factorization computation based on the modified Cholesky decomposition method, a free space of a main memory is detected, a part of decomposed coefficient value data is stored in a decomposed coefficient storage area L1 in the main memory within a range not exceeding the storage capacity of the main memory, and the remainder of the decomposed coefficient value data is stored in a decomposed coefficient storage file L2 in a secondary storage device.;COPYRIGHT: (C)2008,JPO&INPIT
机译:解决的问题:通过抑制虚拟内存中的页面调度的发生来快速执行联立线性方程组的数值解的计算,该虚拟存储器用于使用改进的Cholesky分解方法求解联立线性方程组的求解方法。基于改进的Cholesky分解方法,检测主存储器的可用空间,将一部分分解系数值数据存储在主存储器中分解系数存储区域L1中,且不超过主存储器的存储容量;剩余的分解系数值数据存储在辅助存储设备中的分解系数存储文件L2中。版权所有:(C)2008,JPO&INPIT

著录项

  • 公开/公告号JP2008070928A

    专利类型

  • 公开/公告日2008-03-27

    原文格式PDF

  • 申请/专利权人 FUJITSU FIP CORP;

    申请/专利号JP20060246354

  • 发明设计人 KAJI MASANORI;

    申请日2006-09-12

  • 分类号G06F17/12;

  • 国家 JP

  • 入库时间 2022-08-21 20:23:45

相似文献

  • 专利
  • 外文文献
  • 中文文献
获取专利

客服邮箱:kefu@zhangqiaokeyan.com

京公网安备:11010802029741号 ICP备案号:京ICP备15016152号-6 六维联合信息科技 (北京) 有限公司©版权所有
  • 客服微信

  • 服务号